Sam Altam 自己對昨天直播的解讀: 昨天我們開了個直播。沒看的朋友,這兒是「懶人包」: 我們定下了一組內部目標:到2026 年9 月,我們要搞出一個“AI 科研實習生”,它得能在幾十萬塊GPU 上跑起來;到2028 年3 月,我們要搞出一個真正的“自動化AI 研究員”。 我們很可能實現不了這個目標,但我們還是得說出來。為啥呢?因為這事兒(如果做成了)影響實在太大了,我們覺得本著對公眾負責的態度,必須保持透明。 為了確保AI不“跑偏”,我們設計了一個“五層防護網”: 1. 價值觀對齊(Value alignment) (確保AI的是非觀和人類一致) 2. 目標對齊(Goal alignment) (確保AI想做的,就是我們讓它做的) 3. 可靠性(Reliability) (確保AI在各種情況下都能穩定工作) 4. 對抗性魯棒性(Adversarial robustness) (確保AI不會被惡意「投毒」或欺騙) 5. 系統安全(System safety) (確保整個AI系統本身是安全的,不會被駭客利用) 我們對一個叫做「思維鏈忠誠度」 (Chain-of-thought faithfulness) 的工具特別興奮(這玩意兒是用來確保AI不僅給出正確答案,還能誠實地告訴我們它是怎麼想出來的)。不過它目前還有點「脆」 (容易「翻車」或失效),還需要劃定清晰的邊界和抽象。 在產品方面,我們正努力轉型成一個真正的「平台」。我們希望,未來絕大部分價值是由那些在我們技術上(例如我們的API或ChatGPT裡的應用)搞開發的人和公司創造的。我們的終極目標是,提供一個“AI雲”,能催生出巨無霸企業。 目前,我們已經承諾投入大概30 吉瓦(GW) 的算力(1吉瓦約等於一座大型核電廠的功率)。在未來幾年的總持有成本(TCO,Total Cost of Ownership,指購買、營運、維護的總花費)將高達約1.4 兆美元。 砸這麼多錢,我們心裡有底嗎?有。因為我們看到了模型能力和收入成長的喜人前景。我們甚至還想“搞得更大”——我們想造一個“AI工廠”,能以比現在低得多的成本,每週“生產”出1 吉瓦的新增算力。不過,要實現這個「大跨越”,我們還需要對未來的模式、收入以及科技和金融創新有更大的信心才行。 我們的新架構(指公司架構)比舊的簡單多了。現在是這樣:我們有一個非營利組織,叫做「OpenAI 基金會」 (OpenAI Foundation),它負責管理一個「公共利益公司」 (Public Benefit Corporation, PBC),叫做「OpenAI 集團」 (OpenAI Group)。一開始,基金會持有集團26% 的股份,但如果集團(也就是這個PBC)做得特別好,基金會可以透過認股權證(warrants) 來增加持股。這個「公共利益公司」 (PBC) 的存在,就是為了能(像一般公司一樣)吸引(例如融資)實現使命所需的大量資源。 無論是非營利基金會,或是這個公共利益公司,我們的使命始終沒變:確保通用人工智慧(AGI, Artificial General Intelligence) 惠及全人類。 這個非營利基金會(指OpenAI Foundation)起步階段就承諾投入250 億美元,用於兩大塊:一是健康和攻克疾病;二是“AI 韌性” (AI resilience) (這個詞有點新,它指的是所有能幫助社會平穩過渡到“後AGI時代”的事情,不僅包括技術安全,還包括研究經濟、安全,等等。 而且,跟以前不一樣,這個非營利基金會現在有能力真正快速地「撒錢」了(指把資金部署到位)。 我們預計,到2026 年,我們的AI 系統也許就能搞出點「小」的新發現了;而到了2028 年,我們可能將見證「大」的發現。 這事兒非同小可。因為我們堅信,科學,以及那些能將科學成果廣泛傳播(讓所有人受益)的機制,才是人類生活品質不斷提升的終極法寶。
正在載入線程內容
正在從 X 取得原始推文,整理成清爽的閱讀畫面。
通常只需幾秒鐘,請稍候。