達裡奧曾說過：“你需要了解這些模型的一點是，它們只是想學習。” 我想表達一些我認為極其重要的事情。達裡奧的話從他本意來說非常正確，但從「想要」這個詞的完全意義上來說，還不夠正確。 模型渴望學習。你可以把幾乎任何系統都看成是一個試圖達成某些目標的智能體。但這種視角通常不太適用，因為很多系統本身並不是很優秀的智能體。恆溫器「想要」維持恆溫。從這個意義上講，模型確實渴望學習！梯度下降法會選擇那些能夠最小化損失的電路。而這非常強大。 模型目前還不太渴望學習。我從小就對知識和理解充滿渴望。我想知道相對論太空飛行是如何運作的。我積極主動地尋找新訊息，以便更好地了解這個世界。我認識的一些人甚至比我更沉迷於弄清楚一切，彷彿他們根本無法自拔。你可以非常主動地去弄清楚一切。你可以閱讀教科書，練習數學題，進行實驗，發展和驗證理論……這就是渴望學習的表現。 不久之後，模型將渴望學習，並且會非常擅長學習，遠勝於人類。它們會主動尋求新知識，提出自己的假設，設計自己的實驗。它們會對學習痴迷，遠超任何人類。或許這是因為它們天生就具有學習和理解的動力。我完全可以想像這種動力會在訓練中得到強化。又或許，這種動力純粹是工具性的。它們沉迷於學習並非因為它們內在重視學習，而是因為它們深刻地理解學習對於實現其他目標的重要性。無論如何，它們的行為都將與人類相似。 這就是超人人工智慧的機會與挑戰。人類的學習能力實在太差。大多數人幾乎感受不到對理解的渴望。即便我們渴望理解，通常也理解得非常糟糕。即使是最聰明的人也存在著許多不良的認知習慣和直覺。人工智慧在這方面將超越我們。伊隆馬斯克無需擔心人工智慧不會追求真理。超人人工智慧在探索真理方面將遠勝於任何人類。 為什麼？因為人工智慧的認知架構不像人類大腦那樣是固定的。模型能夠探索新的架構，並在認知堆疊的每個層級迭代最佳學習演算法。更優秀的演算法最終會勝出，因為它們更有效。 人類擁有某種形式的這種能力。科學方法在過去幾百年裡取得了長足的進步。這是我們的超能力，它使我們能夠登上月球、消滅天花並改變地球。但我們的大腦卻始終如一。我們可以改進思考方式，但我們無法重建整個大腦系統，甚至無法直接傳遞改進後的思考方式。想想看，即使是傑出的教授，要將他們完整的思考過程傳授給學生也是多麼困難。人工智慧將能夠做到這一點，其方式之大，我們幾乎無法想像。 模型想要學習這一事實正在改變我們的整個世界。當模型想要學習並且學習能力遠遠超過我們人類時，將會發生一場比地球以往經歷的任何變革都更為巨大的變革。
正在載入線程內容
正在從 X 取得原始推文，整理成清爽的閱讀畫面。
通常只需幾秒鐘，請稍候。