我特別想問@karpathy,為什麼自動駕駛汽車從驚豔的演示到真正投入使用,花了十多年時間。 Andrej在特斯拉領導人工智慧部門五年。 我真的很想知道這些摩擦是否會延長我們的通用人工智慧(AGI)時間表,或者它們是否是自動駕駛特有的問題。 駕駛的失敗代價非常高昂。人類駕駛員的可靠性令人驚訝——平均每行駛40萬英里/7年才會發生一次嚴重事故。自動駕駛汽車必須達到甚至超越此安全標準才能投入使用。 但大多數領域都是如此嗎?面試前,在我看來,幾乎所有我們想應用通用人工智慧(AGI)的領域,其失敗成本都低得多。如果完全自主的軟體工程師在7年內都不允許犯錯,那麼部署速度確實會非常緩慢。 安德烈提出了一個我從未聽過的有趣觀點:與自動駕駛相比,軟體工程的失敗成本更高(而且可能沒有上限): 如果你寫的是實際生產等級的程式碼,任何類型的錯誤都可能導致安全漏洞。數億人的個人社會安全號碼都可能被洩露。 在自動駕駛中,如果發生故障,你可能會受傷。但還有更糟糕的後果。然而,在軟體領域,可能造成的嚴重後果幾乎是無法估量的。 在某些方面,軟體工程比自動駕駛要困難得多。自動駕駛只是人們所做的事情中的成千上萬種,它幾乎就像一個單一的垂直領域。而當我們談論通用軟體工程時,涉及的範圍就更廣了。 低層邏輯模型(LLM)向廣泛部署的通用人工智慧(AGI)過渡可能更快,或許還有另一個原因:低層邏輯模型免費提供感知、表徵和常識(用於處理分佈外示例),而自動駕駛汽車則需要從零開始構建這些能力。我曾就此詢問安德烈: 我不知道我們能免費獲得多少東西。法學碩士仍有許多缺陷,還有很多空白需要填補。我不認為我們能開箱即用就獲得神奇的概括能力。 我想再次強調的另一點是,自動駕駛汽車遠遠不夠成熟。目前的部署規模非常有限。即使是Waymo,其車輛數量也寥寥無幾。他們打造的是面向未來的產品。他們不得不將未來提前,但這樣做也是因為成本過高。 此外,當你觀察這些無人駕駛的汽車時,你會發現其中人為因素比你想像的要多。從某種意義上說,我們並沒有真正移除人,只是把他們轉移到了你看不見的地方。
正在載入線程內容
正在從 X 取得原始推文,整理成清爽的閱讀畫面。
通常只需幾秒鐘,請稍候。