Lenny Rachitsky（@lennysan）のスレッド

@echen (Surge AI の創設者) からの主な学び: 1. AIによってあらゆるものが効率化されるにつれ、従業員1人当たり1億ドル規模の企業が間もなく誕生するでしょう。Surgeはわずか4年で、従業員100人未満、完全自力で10億ドルの収益を達成しました。これは、従来のシリコンバレーのベンチャーキャピタルの戦略を覆すものとなるでしょう。 2. AGIの実現はおそらく10年以上先でしょう。タスクの80%から90%への到達と99.9%への到達は大きく異なります。それぞれの到達には、それ以前の到達よりも大幅に長い時間がかかります。客観試験問題は、現実世界の問題よりも最適化が容易です。 3. 業界はAIを「真実ではなくドーパミン」に最適化しており、AGIの実現を遅らせています。エドウィンは、私たちが人類の進歩ではなくエンゲージメントを追求するAIを構築しているのではないかと懸念しています。LMArenaのような人気のリーダーボードは、正確性よりも絵文字やフォーマットを使った派手な回答を重視しており、研究室は表面的な指標に最適化せざるを得ず、その結果、実際のタスクにおけるモデルの性能が低下しています。 4. AIの学習に用いる高品質なデータを作成するには、センスが求められます。詩が8行で月について言及していることは誰でも確認できます。難しいのは、驚きを与え、感情を揺さぶり、言語について何か新しいことを教えてくれる詩を見極めることです。この主観的で微妙な品質の定義こそが、平均的なAIと優れたAIを分けるものです。 5. AIのトレーニングは、写真にラベルを付けるよりも、子供を育てるようなものです。単に情報を与えるだけでなく、価値観、創造性、そして美しさや真実性を生み出す無数の繊細な要素を教えるのです。正しい問いは、「AIにどんなテストに合格させたいのか？」ではなく、「どんな人間を育てたいのか？」です。何を最適化するのか――エンゲージメント指標か、それとも真の人間的成長か――の選択が、その後のすべてを形作ります。 6. AIベンチマークのランキングはしばしば操作され、現実世界の価値を反映していません。エドウィンはベンチマークを信頼していません。その理由は2つあります。1つは誤った答えが含まれていること、もう1つは、複雑な現実世界とは異なり、明確に定義された問題をテストすることです。これが、モデルが国際数学オリンピックで金メダルを獲得できるにもかかわらず、PDFの解析に苦労する理由です。研究室はPR目的でこれらのベンチマークを最適化しますが、それが実際のタスクでのモデルの性能を低下させる場合でも同様です。 7. AIトレーニングの次のフロンティアは、モデルが実践を通して学習する強化学習（RL）環境です。これは、Gmail、Slack、コードリポジトリ、データベースを備えたスタートアップ企業がAWSの突然のダウンといった現実世界のシナリオを詳細にシミュレーションしたものです。モデルはこれらの環境でタスクに挑戦し、最終的な答えだけでなく、全体的なアプローチに基づいて報酬を受け取ることで学習します。これは、人間が現実的な状況で試行錯誤を通して実際に学習する方法を反映しています。 8. AI支援には隠れたコストがあります。それは、完璧に仕上げたとしても、実際には意味をなさないということです。元のメールが既に問題ないのに、AIに30分もかけて無限の修正を繰り返してメールを完成させるのは、罠です。より深い問いは、AIはユーザーの時間を最大限活用すべきか、それとも作業を終わらせて次のステップに進むのを手伝うべきか、ということです。最高のAIツールは、「これで十分だ。送信するだけだ」と判断すべきタイミングを知っています。 9. 成功する会社を作るのに、自分自身を変える必要はありません。エドウィンは起業など考えたこともありませんでした。「一日中財務諸表を見ているビジネスマン」になるしかないと思っていたからです。しかし、彼はSurgeを研究所のように構築し、データと分析に常に精通しました。彼のアドバイスは、「本来の自分ではない誰かになる必要はありません。あらゆる雑音をかき消すほど優れたものを作るだけで、成功する会社を作ることができます」というものです。 10. シリコンバレーの戦略――常に方向転換し、ブリッツスケールし、ハイプを追いかける――だけが成功への道ではありません。別の道もあります。信じられる大きなアイデアを一つ見つけ、他の全てにノーと言い、困難に直面しても構築し続けることです。トレンド（暗号通貨、NFT、AIなど）を追いかけるだけでは、一貫性も使命もない企業しか生まれません。あなた自身の経験、興味、専門知識を独自に組み合わせなければ存在し得ない何かを築き上げましょう。