多年來我一直對法學碩士（LLM）持悲觀態度，但現在我認為法學碩士和推理工具已經發展到足以真正改變科學和工程領域的程度。我不認為這是通用人工智慧（AGI），而更像是將谷歌搜尋或SAT求解器等以往工具的通用性應用到更廣泛的領域。 這引發了一些問題。在程式設計和寫作領域，這門學科的實踐似乎正在發生徹底的變革。禁止學生使用人工智慧似乎很難，但使用人工智慧確實可能會削弱初學者的理解和成長。同時，人工智慧似乎也能成為專家的強大助力。有人問我學生應該如何面對這種情況。我的看法是，學習在不使用人工智慧的情況下進行程式設計和寫作，對於取得最佳成果可能至關重要。 此外，人工智慧還會帶來其他風險，例如法學碩士（LLM）的「精神錯亂」。我們會看到更多初學者聲稱在他們不了解的領域取得了「突破性」成果。這很可惜，因為它很可能會導致證書至上的風氣盛行。遺憾的是，專家們沒有足夠的時間來仔細審查初學者的作品。在法學碩士的世界模型發展到足夠完善、能夠自我驗證之前，這種情況或許難以避免。 這對科學或工程意味著什麼？我或許有些悲觀，但我認為奇點還遠遠沒有到來。相反，我認為人工智慧的低效率幾乎會抵消其帶來的收益，最終只能取得有限的進步。就我個人而言，由於我對貢獻程式碼的信任度降低，我處理 @deep_chem 的 PR 的速度有所放緩。學生嘗試使用人工智慧，卻貢獻了錯誤的程式碼。因此，我只合併由經驗豐富的現有貢獻者審核過的程式碼…人工智慧透過增加程式碼審查負擔減緩了進展。這只是一個例，但我看到類似的模式在其他地方也正在上演。同時，專家們將利用人工智慧取得突破性進展。效率的提升和低效率將處於一種微妙的平衡之中。 因此，開發自動化驗證器的問題已成為人工智慧領域最大的挑戰。我預感這將會是一個漫長而艱辛的過程，但這正是真正突破的必經之路。 （最後一點說明，這篇文章完全沒有使用人工智慧！避免使用人工智慧有助於在腦力激盪時進行更清晰的思考。）
正在載入線程內容
正在從 X 取得原始推文，整理成清爽的閱讀畫面。
通常只需幾秒鐘，請稍候。