來自@echen（Surge AI創辦人）的主要觀點： 1. 隨著人工智慧提升效率，我們很快就會看到平均市值達到1億美元的公司。 Surge公司在短短4年內，僅靠不到100名員工，完全依靠自有資金，就實現了10億美元的營收。這將打破矽谷傳統的創投模式。 2. 通用人工智慧（AGI）的實現可能還需要十年甚至更久。完成任務的80%到90%與完成99.9%截然不同──每一次提升所需的時間都比前一次長得多。客觀題比實際問題更容易優化。 3. 業界正在優化人工智慧，使其追求“多巴胺而非真相”，從而延緩了通用人工智慧（AGI）的實現。艾德溫擔心，我們正在建構的人工智慧追求的是用戶參與度，而不是人類的進步。像LMArena這樣的熱門排行榜獎勵的是帶有表情符號和格式的炫目回复，而非準確性，這迫使實驗室優化一些膚淺的指標，反而使模型在實際任務中表現更差。 4. 創造高品質的人工智慧訓練資料需要一定的鑑賞力。任何人都能驗證一首詩有八行，並且提到了月亮。困難在於如何找到那些能讓你感到驚喜、觸動心弦、並能讓你對語言有全新理解的詩。這種主觀而細緻的「品質」定義，正是區分一般人工智慧和卓越人工智慧的關鍵。 5. 訓練人工智慧更像是養育孩子，而不是給照片貼標籤。你不只是在輸入資訊；你是在教導它價值觀、創造力，以及無數關於美和真理的微妙之處。正確的問題不是“我們希望人工智慧通過什麼測試？”，而是“我們想培養什麼樣的個體？” 優化目標的選擇——是用戶參與度指標還是真正的人類發展——將影響後續的一切。 6. 人工智慧基準測試排名經常被操縱，無法反映其在實際應用上的價值。 Edwin 不信任基準測試的原因有二：一是它們經常包含錯誤答案；二是它們測試的是定義明確的問題，而現實世界紛繁複雜。這就解釋了為什麼有些模型能在國際數學奧林匹克競賽中贏得金牌，卻在解析 PDF 檔案時舉步維艱。實驗室為了公關宣傳，會針對這些基準測試進行最佳化，即使這會使他們的模型在實際任務中表現更差。 7. 人工智慧訓練的下一個前沿領域是強化學習環境，模型在其中透過實踐來學習。這些環境是對真實世界場景的精細模擬——例如，一家新創公司擁有 Gmail、Slack、程式碼庫和資料庫，而 AWS 突然宕機。模型透過在這些環境中嘗試完成任務並獲得基於其完整過程（而不僅僅是最終答案）的獎勵來學習。這模擬了人類在現實情境中透過反覆試誤來學習的過程。 8. 人工智慧輔助存在一個隱性成本：精心製作卻毫無意義的作品。花30分鐘讓人工智慧反覆修改一封郵件，而原稿其實已經很好了，這本身就是一個陷阱。更深層的問題在於，人工智慧應該要最大化你與它互動的時間，還是應該幫助你完成任務並繼續前進。最好的人工智慧工具應該知道何時該說：“已經足夠好了——直接發送。” 9. 打造一家成功的公司並不需要改變你自己。艾德溫從未想過自己會創業，因為他認為自己必須成為「一個整天盯著財務報表的商人」。然而，他卻把Surge打造成了一個研究實驗室，親力親為地處理數據和分析。他的建議是：“你不需要變成另一個人。你只需要打造出足夠優秀的產品，讓它在眾多噪音中脫穎而出，就能打造一家成功的公司。” 10. 矽谷的成功秘訣──不斷轉型、閃電擴張、追逐熱點──並非通往成功的唯一途徑。另一個選擇是：找到一個你堅信的偉大構想，對其他一切都說“不”，即使困難重重也要堅持不懈地打造。追逐潮流（先是加密貨幣，然後是NFT，再是人工智慧）只會造就缺乏連貫性和使命感的公司。你應該打造一些如果沒有你獨特的經驗、興趣和專業知識組合就根本不可能存在的東西。
正在載入線程內容
正在從 X 取得原始推文，整理成清爽的閱讀畫面。
通常只需幾秒鐘，請稍候。