Sam Altam 自己對昨天直播的解讀： 昨天我們開了個直播。沒看的朋友，這兒是「懶人包」： 我們定下了一組內部目標：到2026 年9 月，我們要搞出一個“AI 科研實習生”，它得能在幾十萬塊GPU 上跑起來；到2028 年3 月，我們要搞出一個真正的“自動化AI 研究員”。 我們很可能實現不了這個目標，但我們還是得說出來。為啥呢？因為這事兒（如果做成了）影響實在太大了，我們覺得本著對公眾負責的態度，必須保持透明。 為了確保AI不“跑偏”，我們設計了一個“五層防護網”： 1. 價值觀對齊(Value alignment) （確保AI的是非觀和人類一致） 2. 目標對齊(Goal alignment) （確保AI想做的，就是我們讓它做的） 3. 可靠性(Reliability) （確保AI在各種情況下都能穩定工作） 4. 對抗性魯棒性(Adversarial robustness) （確保AI不會被惡意「投毒」或欺騙） 5. 系統安全(System safety) （確保整個AI系統本身是安全的，不會被駭客利用） 我們對一個叫做「思維鏈忠誠度」 (Chain-of-thought faithfulness) 的工具特別興奮（這玩意兒是用來確保AI不僅給出正確答案，還能誠實地告訴我們它是怎麼想出來的）。不過它目前還有點「脆」 （容易「翻車」或失效），還需要劃定清晰的邊界和抽象。 在產品方面，我們正努力轉型成一個真正的「平台」。我們希望，未來絕大部分價值是由那些在我們技術上（例如我們的API或ChatGPT裡的應用）搞開發的人和公司創造的。我們的終極目標是，提供一個“AI雲”，能催生出巨無霸企業。 目前，我們已經承諾投入大概30 吉瓦(GW) 的算力（1吉瓦約等於一座大型核電廠的功率）。在未來幾年的總持有成本（TCO，Total Cost of Ownership，指購買、營運、維護的總花費）將高達約1.4 兆美元。 砸這麼多錢，我們心裡有底嗎？有。因為我們看到了模型能力和收入成長的喜人前景。我們甚至還想“搞得更大”——我們想造一個“AI工廠”，能以比現在低得多的成本，每週“生產”出1 吉瓦的新增算力。不過，要實現這個「大跨越”，我們還需要對未來的模式、收入以及科技和金融創新有更大的信心才行。 我們的新架構（指公司架構）比舊的簡單多了。現在是這樣：我們有一個非營利組織，叫做「OpenAI 基金會」 (OpenAI Foundation)，它負責管理一個「公共利益公司」 (Public Benefit Corporation, PBC)，叫做「OpenAI 集團」 (OpenAI Group)。一開始，基金會持有集團26% 的股份，但如果集團（也就是這個PBC）做得特別好，基金會可以透過認股權證(warrants) 來增加持股。這個「公共利益公司」 (PBC) 的存在，就是為了能（像一般公司一樣）吸引（例如融資）實現使命所需的大量資源。 無論是非營利基金會，或是這個公共利益公司，我們的使命始終沒變：確保通用人工智慧(AGI, Artificial General Intelligence) 惠及全人類。 這個非營利基金會（指OpenAI Foundation）起步階段就承諾投入250 億美元，用於兩大塊：一是健康和攻克疾病；二是“AI 韌性” (AI resilience) （這個詞有點新，它指的是所有能幫助社會平穩過渡到“後AGI時代”的事情，不僅包括技術安全，還包括研究經濟、安全，等等。 而且，跟以前不一樣，這個非營利基金會現在有能力真正快速地「撒錢」了（指把資金部署到位）。 我們預計，到2026 年，我們的AI 系統也許就能搞出點「小」的新發現了；而到了2028 年，我們可能將見證「大」的發現。 這事兒非同小可。因為我們堅信，科學，以及那些能將科學成果廣泛傳播（讓所有人受益）的機制，才是人類生活品質不斷提升的終極法寶。
正在加载线程详情
正在从 X 获取原始推文，整理成清爽的阅读视图。
通常只需几秒钟，请稍候。