來自 Andrej Karpathy（@karpathy）的推文串

分享一段最近關於人工智慧對經濟影響的有趣對話。 人工智慧已被比作各種歷史先例：電力、工業革命等等，我認為最恰當的類比是將人工智慧視為一種新的計算範式（軟體 2.0），因為兩者從根本上來說都是關於數位資訊處理的自動化。 如果要預測電腦科技在20世紀80年代對就業市場的影響，那麼一項任務/工作最能預測其前景的特徵，就是它的演算法在多大程度上是固定的，也就是說，你是否只是機械地按照一些易於規定的規則來轉換資訊（例如打字、記帳、人工計算器等等）？在當時，以當時的電腦能力，我們只能編寫這類程式（手動編寫）。 有了人工智慧，我們現在能夠編寫以前手動編寫根本無法實現的程式。我們透過設定目標（例如分類準確率、獎勵函數）來實現這一點，然後利用梯度下降法在程式空間中搜尋能夠很好地實現該目標的神經網路。這是我之前寫的一篇關於軟體 2.0 的部落格文章。在這種新的程式設計範式中，最具預測性的特徵是可驗證性。如果一項任務/工作是可驗證的，那麼它就可以直接優化，也可以透過強化學習來優化，神經網路也可以被訓練得非常出色。這關乎人工智慧能夠「練習」到什麼程度。環境必須是可重置的（可以開始新的嘗試）、高效的（可以進行多次嘗試）和可獎勵的（存在某種自動化流程來獎勵任何特定的嘗試）。 任務/工作的可驗證性越高，就越容易在新程式設計範式下實現自動化。如果任務/工作不可驗證，則只能寄望於神經網路的泛化能力，或透過模仿等較弱的手段來實現。這正是LLM（學習型學習）發展進程「崎嶇不平」的原因。可驗證的任務進展迅速，甚至可能超越了頂尖專家的能力範圍（例如數學、程式碼、觀看影片的時間、任何看起來像有正確答案的謎題），而許多其他任務則相對滯後（例如創造性、策略性、結合現實世界知識、狀態、上下文和常識的任務）。 軟體 1.0 可以輕鬆實現您指定功能的自動化。 軟體 2.0 可以輕鬆實現可驗證事項的自動化。