我特別想問@karpathy，為什麼自動駕駛汽車從驚豔的演示到真正投入使用，花了十多年時間。 Andrej在特斯拉領導人工智慧部門五年。 我真的很想知道這些摩擦是否會延長我們的通用人工智慧（AGI）時間表，或者它們是否是自動駕駛特有的問題。 駕駛的失敗代價非常高昂。人類駕駛員的可靠性令人驚訝——平均每行駛40萬英里/7年才會發生一次嚴重事故。自動駕駛汽車必須達到甚至超越此安全標準才能投入使用。 但大多數領域都是如此嗎？面試前，在我看來，幾乎所有我們想應用通用人工智慧（AGI）的領域，其失敗成本都低得多。如果完全自主的軟體工程師在7年內都不允許犯錯，那麼部署速度確實會非常緩慢。 安德烈提出了一個我從未聽過的有趣觀點：與自動駕駛相比，軟體工程的失敗成本更高（而且可能沒有上限）： 如果你寫的是實際生產等級的程式碼，任何類型的錯誤都可能導致安全漏洞。數億人的個人社會安全號碼都可能被洩露。 在自動駕駛中，如果發生故障，你可能會受傷。但還有更糟糕的後果。然而，在軟體領域，可能造成的嚴重後果幾乎是無法估量的。 在某些方面，軟體工程比自動駕駛要困難得多。自動駕駛只是人們所做的事情中的成千上萬種，它幾乎就像一個單一的垂直領域。而當我們談論通用軟體工程時，涉及的範圍就更廣了。 低層邏輯模型（LLM）向廣泛部署的通用人工智慧（AGI）過渡可能更快，或許還有另一個原因：低層邏輯模型免費提供感知、表徵和常識（用於處理分佈外示例），而自動駕駛汽車則需要從零開始構建這些能力。我曾就此詢問安德烈： 我不知道我們能免費獲得多少東西。法學碩士仍有許多缺陷，還有很多空白需要填補。我不認為我們能開箱即用就獲得神奇的概括能力。 我想再次強調的另一點是，自動駕駛汽車遠遠不夠成熟。目前的部署規模非常有限。即使是Waymo，其車輛數量也寥寥無幾。他們打造的是面向未來的產品。他們不得不將未來提前，但這樣做也是因為成本過高。 此外，當你觀察這些無人駕駛的汽車時，你會發現其中人為因素比你想像的要多。從某種意義上說，我們並沒有真正移除人，只是把他們轉移到了你看不見的地方。
正在載入線程內容
正在從 X 取得原始推文，整理成清爽的閱讀畫面。
通常只需幾秒鐘，請稍候。