重新看了一遍 Andrej Karpathy 和 Ilya Sutskever 两位的播客,再借助 Gemini 3 和 NotebookLM 的梳理,对两位的访谈有了基础的感受:
Andrej - “工程落地派”
Ilya - “科学探索派”
# Andrej Karpathy 的“渐进主义”与“动物构建论”
https://t.co/D3g7Tr1JRx
核心主题:从“唤醒幽灵”到“建造动物”,AI Agent 的落地之路漫长而艰难。
Andrej Karpathy 在访谈中展现了他作为顶级工程师和教育者的务实视角。他没有过度渲染 AGI 的即刻降临,而是给当前的 AI 热潮泼了一盆极其有价值的冷水——或者说是“清醒剂”。
1. “唤醒幽灵” vs “建造动物”
这是 Andrej 提出的一个极具洞察力的比喻。他认为我们目前的训练方式只是在“唤醒幽灵”。大模型学到了人类所有的知识及模式,它像一个无所不知的幽灵,但它缺乏“实体”和“自主性”。
目前的挑战在于,我们不仅要唤醒这个幽灵,还要为它“建造一个动物的躯体”。这意味着要通过强化学习、记忆模块、工具使用能力,让这个幽灵能够像动物一样在物理或数字世界中持续生存、行动和解决问题。
2. Agent 的“十年长跑”
和外界“明年就有 AGI”的狂热不同,Andrej 认为构建真正可用的 Agent 是一个极其困难的系统工程问题。他甚至给出了“可能需要十年”的预期。
他指出,虽然模型很聪明,但在长时间跨度的任务中,一旦某一步出错,整个任务就会崩溃(误差累积)。目前的模型缺乏人类那种“自我纠错”和“在动态环境中持续学习”的能力。
3. 经济影响的“平滑曲线”
Andrej 倾向于认为 AI 对经济的影响将是渐进的,而非阶跃式的。他认为 AI 会像过去的自动化技术一样,逐渐渗透到各个行业中,慢慢提升效率,而不是一夜之间彻底颠覆所有工作。
# Ilya Sutskever 的“范式转移”与“顿悟时刻”
https://t.co/uu3JR4mEoy
核心主题:Scaling Law 的边际效应递减,AI 进入“探索与顿悟”的新时代。
Ilya Sutskever 的视角则完全不同,他站在科学探索的最前沿,宣告了“旧时代”的结束。作为曾经 Scaling Law 的最坚定信徒,他的转向不仅令人震惊,更指明了未来的方向。
1. Scaling Law 的终结(或质变)
Ilya 明确表示,单纯靠堆算力、堆数据来扩大模型规模的时代已经过去了。虽然扩大规模仍有帮助,但边际效益正在急剧下降。换句话说,2010年代那种“越大越好”的暴力美学已经撞上了天花板。
2. 从“10万小时学生”到“100小时学生”
Ilya 提出了一个深刻的区别:目前的预训练模型像是一个“读了10万小时书”的学生,它记住了所有知识,但缺乏真正的理解。而人类通常只需要“100小时”的学习就能掌握一个技能,因为人类具备“顿悟”和“举一反三”的能力。
Ilya 认为,下一个阶段的关键不在于让模型读更多的书(因为数据也快用完了),而在于让模型学会“思考”,从海量数据中提炼出真正的“价值”和“逻辑”,实现从“记忆”到“推理”的跃迁。
3. 安全即能力(Safety is Capability)
作为 SSI 的创始人,Ilya 强调安全不仅仅是给 AI 加护栏,它是构建超智能的基石。一个不稳定的、不仅能理解指令还能理解“价值观”的 AI,才是通往 AGI 的唯一路径。
# 深度对比:Andrej 与 Ilya 的观点碰撞
如果说 Andrej 是在“修路”,那么 Ilya 是在“造火箭”。两者的核心分歧和互补之处如下:
1. 对“瓶颈”的认知不同
· Andrej (工程瓶颈): 认为瓶颈在于系统集成和可靠性。模型已经够聪明了,现在的问题是怎么把这个聪明的“大脑”装进一个能干活的“身体”里,让它别老犯错。通过更好的工具链、内存管理和强化学习微调来解决问题。
· Ilya (科学瓶颈): 认为瓶颈在于数据效率和底层范式。目前的训练方法太笨了,还是在靠死记硬背。如果不改变底层的“学习范式”(从预测下一个词转变为真正的逻辑推理和价值判断),光靠堆算力是产生不了真正的超级智能的。
2. 对“扩展(Scaling)”的态度
· Andrej: 接受现有的 Scaling 成果,关注如何通过后训练阶段的强化学习来榨取模型的剩余价值。他认为我们还没完全利用好现有的模型能力。
· Ilya: 认为预训练的 Scaling 已经到头了。必须开启一个新的“Scaling”,即“推理侧的 Scaling”,让模型在输出前花更多时间思考,这才是未来的增长点。
3. 对未来的预期
· Andrej (渐进悲观/务实): “大家冷静点,这就是个工具,好用但也难伺候。” 他看到的是大量的脏活累活要干,认为 AGI 融入社会是一个漫长的磨合过程。
· Ilya (终极理想/紧迫): “旧路已死,新王当立。” 他关注的是如何突破天花板,创造出在本质上超越人类学习效率的全新智能体。他的紧迫感来源于对“质变”的追求,而非“量变”的积累。
# 总体感受
我们正处在一个从“大力出奇迹”向“精细化探索”转型的十字路口。
· 听 Andrej,你会明白为什么你的 AI Agent 总是做不好工作,以及作为开发者当下应该专注于哪些具体的工程细节(如数据质量、强化学习环境设计)。
· 听 Ilya,你会看清未来 3-5 年的技术风向,明白为什么所有巨头都在疯狂布局“推理模型”,以及为什么“数据”不再是唯一的壁垒,“思考的质量”才是。
邵猛,中年失业程序员 😂
专注 - Context Engineering, AI Agents.
分享 - AI papers, apps and OSS.
ex Microsoft MVP
合作 - 私信/邮箱:shaomeng@outlook.com
📢 公众号/小红书: AI 启蒙小伙伴