Keep on to blur preview images; turn off to show them clearly
Sam Altam 自己对昨天直播的解读： 昨天我们开了个直播。没看的朋友，这儿是“懒人包”： 我们定下了一组内部目标：到 2026 年 9 月，我们要搞出一个“AI 科研实习生”，它得能在几十万块 GPU 上跑起来；到 2028 年 3 月，我们要搞出一个真正的“自动化 AI 研究员”。 我们很可能实现不了这个目标，但我们还是得说出来。为啥呢？因为这事儿（如果做成了）影响实在太大了，我们觉得本着对公众负责的态度，必须保持透明。 为了保证AI不“跑偏”，我们设计了一个“五层防护网”： 1. 价值观对齐 (Value alignment) （确保AI的是非观和人类一致） 2. 目标对齐 (Goal alignment) （确保AI想做的，就是我们让它做的） 3. 可靠性 (Reliability) （确保AI在各种情况下都能稳定工作） 4. 对抗性鲁棒性 (Adversarial robustness) （确保AI不会被恶意“投毒”或欺骗） 5. 系统安全 (System safety) （确保整个AI系统本身是安全的，不会被黑客利用） 我们对一个叫“思维链忠诚度” (Chain-of-thought faithfulness) 的工具特别兴奋 （这玩意儿是用来确保AI不仅给出正确答案，还能诚实地告诉我们它是怎么想出来的）。不过它目前还有点“脆” （容易“翻车”或失效），还需要划定清晰的边界和抽象。 在产品方面，我们正努力转型成一个真正的“平台”。我们希望，未来绝大部分价值是由那些在我们技术上（比如我们的API或ChatGPT里的应用）搞开发的人和公司创造的。我们的终极目标是，提供一个“AI云”，能催生出巨无霸企业。 目前，我们已经承诺投入大概 30 吉瓦 (GW) 的算力 （1吉瓦约等于一座大型核电站的功率）。在未来几年的总持有成本（TCO，Total Cost of Ownership，指购买、运营、维护的总花费）将高达约 1.4 万亿美元。 砸这么多钱，我们心里有底吗？有。因为我们看到了模型能力和收入增长的喜人前景。我们甚至还想“搞得更大”——我们想造一个“AI工厂”，能以比现在低得多的成本，每周“生产”出 1 吉瓦的新增算力。不过，要实现这个“大跨越”，我们还需要对未来的模型、收入以及技术和金融创新有更大的信心才行。 我们的新架构（指公司结构）比旧的简单多了。现在是这样：我们有一个非营利组织，叫“OpenAI 基金会” (OpenAI Foundation)，它负责管理一个“公共利益公司” (Public Benefit Corporation, PBC)，叫“OpenAI 集团” (OpenAI Group)。一开始，基金会持有集团 26% 的股份，但如果集团（也就是这个PBC）干得特别好，基金会可以通过认股权证 (warrants) 来增加持股。这个“公共利益公司” (PBC) 的存在，就是为了能（像普通公司一样）吸引（比如融资）实现使命所需要的海量资源。 无论是非营利基金会，还是这个公共利益公司，我们的使命始终没变：确保通用人工智能 (AGI, Artificial General Intelligence) 惠及全人类。 这个非营利基金会（指OpenAI Foundation）起步阶段就承诺投入 250 亿美元，用于两大块：一是健康和攻克疾病；二是“AI 韧性” (AI resilience) （这个词有点新，它指的是所有能帮助社会平稳过渡到“后AGI时代”的事情，不仅包括技术安全，还包括研究经济影响、网络安全等等）。 而且，跟以前不一样，这个非营利基金会现在有能力真正快速地“撒钱”了（指把资金部署到位）。 我们预计，到 2026 年，我们的 AI 系统也许就能搞出点“小”的新发现了；而到了 2028 年，我们可能将见证“大”的发现。 这事儿非同小可。因为我们坚信，科学，以及那些能将科学成果广泛传播（让所有人受益）的机制，才是人类生活质量不断提高的终极法宝。
Prompt Engineer, dedicated to learning and disseminating knowledge about AI, software engineering, and engineering management.
after a long break, i’m back at openai to start a new team with @troyluhman and @eric_luhman1 focused on an incredibly high-risk bet that has a small, but significant, chance of leading to ASI. we’re keeping the team tight but we’re open to high-slope researchers & engineers interested in making progress in uncharted territory. mountain identified: time to climb
dei ex machina @openai, past: posttraining o3/4o, sora 1 & 2, applied research
after a long break, i’m back at openai to start a new team with @troyluhman and @eric_luhman1 focused on an incredibly high-risk bet that has a small, but significant, chance of leading to ASI. we’re keeping the team tight but we’re open to high-slope researchers & engineers interested in making progress in uncharted territory. mountain identified: time to climb
dei ex machina @openai, past: posttraining o3/4o, sora 1 & 2, applied research
Get the latest updates on Hurricane Melissa with the Fox News app. Download here:
Stay Ahead. Get Breaking News Here First. Download the App.
DISASTER RESPONSE: The State Department is deploying disaster assistance and search-and-rescue teams to the Caribbean after Hurricane Melissa killed more than two dozen people. Teams are expected to arrive in Jamaica Thursday to deliver food, water, and aid supplies.
Read more:
Read more:
Get the latest updates on Hurricane Melissa with the Fox News app. Download here: