看了上週Jason wei(思維鏈CoT論文作者)在Stanford AI Club的分享。 終於有點理解為什麼AI時代美感變得重要了。 美感是一種人的直覺驗證,很難量化成為AI的獎勵函數。 AI能不能進入某個領域,不取決於這個領域有多專業。 取決於這個領域,成果能不能快速驗證。 什麼意思? 數學題,答案對不對,一秒知道。 所以AI兩年就學會了競賽數學。 程式碼,能不能跑通,一秒知道。 所以AI現在寫程式已經很強了。 總是有些領域,AI很難判斷好壞,很難設計好的獎勵函數。 只能靠人的經驗和美感。 一旦各行設計出巧妙、有效的獎勵訊號,這個產業就可能被AI快速入侵。 原始影片見評論。
@_jasonwei 分享了很多內容,大概35-30分鐘。 其中提到的可驗證性法則,給了我不少啟發。 youtube.com/watch?v=b6Doq2…B
