我特别想问问@karpathy，为什么自动驾驶汽车从惊艳的演示到真正投入使用，花了十多年时间。Andrej曾在特斯拉领导人工智能部门五年。 我真的很想知道这些摩擦是否会延长我们的通用人工智能（AGI）时间表，或者它们是否是自动驾驶特有的问题。 驾驶的失败代价非常高昂。人类驾驶员的可靠性令人惊讶——平均每行驶40万英里/7年才会发生一次严重事故。自动驾驶汽车必须达到甚至超越这一安全标准才能投入使用。 但大多数领域都是如此吗？面试前，在我看来，几乎所有我们想应用通用人工智能（AGI）的领域，其失败成本都低得多。如果完全自主的软件工程师在7年内都不允许犯错，那么部署速度确实会非常缓慢。 安德烈提出了一个我以前从未听过的有趣观点：与自动驾驶相比，软件工程的失败成本更高（而且可能没有上限）： 如果你编写的是实际生产级别的代码，任何类型的错误都可能导致安全漏洞。数亿人的个人社会安全号码都可能被泄露。 在自动驾驶中，如果出现故障，你可能会受伤。但还有更糟糕的后果。然而，在软件领域，可能造成的严重后果几乎是无法估量的。 在某些方面，软件工程比自动驾驶要难得多。自动驾驶只是人们所做的事情中的成千上万种，它几乎就像一个单一的垂直领域。而当我们谈论通用软件工程时，涉及的范围就更广了。 低层逻辑模型（LLM）向广泛部署的通用人工智能（AGI）过渡可能更快，或许还有另一个原因：低层逻辑模型免费提供感知、表征和常识（用于处理分布外示例），而自动驾驶汽车则需要从零开始构建这些能力。我曾就此询问过安德烈： 我不知道我们能免费获得多少东西。法学硕士仍然存在很多缺陷，还有很多空白需要填补。我不认为我们能开箱即用就获得神奇的概括能力。 我想再次强调的另一点是，自动驾驶汽车远未成熟。目前的部署规模非常有限。即使是Waymo，其车辆数量也寥寥无几。他们打造的是面向未来的产品。他们不得不将未来提前，但这样做也是因为成本过高。 此外，当你观察这些无人驾驶的汽车时，你会发现其中人为因素比你想象的要多。从某种意义上说，我们并没有真正移除人，只是把他们转移到了你看不见的地方。
正在加载线程详情
正在从 X 获取原始推文，整理成清爽的阅读视图。
通常只需几秒钟，请稍候。