Keep on to blur preview images; turn off to show them clearly
Ilya 最新访谈视频完整中英文双语版本 Ilya：Scaling 时代结束 下一阶段：如何让模型学得像人 这是 Ilya 离开 OpenAI 创办 SSI之后，首次系统阐述他对当下 AI 发展、未来智能、安全对齐与人类社会演化的全面思考。 整场对话的主线是三件事： 为什么当前 AI 的测试成绩很高，但现实表现却远不理想； 人类智能的“泛化与价值函数”如何启发未来的 AI 训练方式； SSI 想要构建怎样的“安全超智能（Safe Superintelligence）”。 1、AI 现状的根本问题：能考高分，却不会做事 当前模型（如 GPT 系列）在测试任务（evals）表现极佳，但实际经济影响有限。 模型在复杂任务中会出现“循环错误”——修复一个 bug 又引入另一个。 Ilya 指出：这是因为我们在强化学习阶段过于“针对评测优化”（reward hacking humans），忽视了真实世界的泛化能力。 2、预训练 vs 强化学习：真正的智能诞生在哪里 预训练（Pre-training）：用“所有数据”，不需人为筛选，模型学到人类世界的广泛投影。 强化学习（RL）：需人工设计环境，目标常被设定为“让模型在评测中更好看”。 Ilya 认为：这使模型像“只会考试的学生”，但缺乏真正的洞察与迁移能力。 3、人类智能的关键：价值函数（Value Function）与情感 lya 提出：人类之所以能在复杂世界中学习和泛化，是因为我们拥有“内在价值系统”。 这个系统就是情感（emotion）： 快乐 → 正反馈； 焦虑 → 提醒可能的风险； 羞愧 → 调整社交策略； 好奇 → 激励探索。 在强化学习中，这就像一个隐形的 value function。 它能让人提前知道“方向错了”，而不是等惩罚信号。 因此，他认为： “真正的智能不只是预测能力，而是一个不断更新的价值系统。” 如果未来的 AI 能学会“自我评估任务是否在正确方向”，它才会像人类一样具备“意义驱动的学习能力”。 4、“Scaling 时代结束，研究时代重新到来” Ilya 对当下的 AI 行业提出了尖锐批评。他说过去 10 年的 AI 进展分为两个时代： 2012–2020：研究时代（Research Era） → 创新来自突破性架构（AlexNet、Transformer）。 2020–2025：规模时代（Scaling Era） → 一切努力都在“堆数据、堆算力、堆模型参数”。 他认为这种方向已经触顶： “Scaling 吸干了创新的空气。” 现在：算力继续大，但“再堆料”收益递减 下一阶段的突破，必须重新回到：如何让模型学得像人，而不是算力得更大。 也就是从数量扩张回到结构创新。未来竞争的关键：不是算力，而是谁能提出新的学习原理 5、未来十年的路线图 Ilya 预测： 未来 5–20 年，AI 将学会以人类方式学习； 它能： 主动探索世界； 理解物理与社会规律； 自我反思； 并实现跨模态推理（多感官整合）。 这种系统一旦成熟，将带来： 经济生产力爆炸； 教育和研究模式彻底重塑； 人机关系进入“合作共智（co-intelligence）”时代。 但 Ilya 强调：这类系统应逐步部署、透明展示，以让公众与政府理解其能力和风险。 他强调，SSI 会以渐进、安全、公开的方式推进：每一个阶段的能力、风险、控制策略都会被外部审查。 （由于是AI翻译，可能会有细微的错误，请注意甄别）
完整文字稿：https://t.co/OcUOu4e7B2 原视频：https://t.co/cd3sNhZ9Jz
RT @Soulogic: 本来想等个质量高的片源，但是朴赞郁的片子，忍不了啊 实在是惊喜，我对这个片子的评价是 2020 年代最好的片子，朴赞郁第二好的片子，主要是题材比不了《共同警备区》，但是把《小姐》给顶下去了 朴赞郁的模式化很明显，这一部终于不落窠臼，他最擅长的“机…
喜欢王小波，大概我们能成为朋友。 我的 2025 https://t.co/pAkSJnpKXA 我的 2024 https://t.co/HfDF6oduB7 我的 2023 https://t.co/QyV8PiZmOY ..............
Man, this interview is great. I was not a huge fan of Ilya in the past, but seriously this is just great.
Choose disfavour where obedience does not bring honour. I do math. And was once asked by R. Morris Sr. : "For whom?" @halvarflake@mastodon.social
NVIDIA: Our "We still matter, actually" T-shirt has people asking a lot of questions already answered by our shirt.
h/t to the original
RT @bookwormengr: @levelsio Yeah, China is quite like United States in that international tourism is not a high priority. I tried to picku…
Artificial Intelligence @amazon. All views personal!
RT @frimelle: Our new paper Economies of Open Intelligence is out and covered by @Melissahei in the @FinancialTimes. It offers the clearest…
Co-founder & CEO @HuggingFace 🤗, the open and collaborative platform for AI builders