イリヤの最新インタビュー動画、完全バイリンガル版（中国語と英語）。 イリヤ：スケーリングの時代は終わり、次の段階：モデルを人間のように学習させる方法 これは、OpenAI を離れて SSI を設立して以来、Ilya が現在の AI 開発、将来のインテリジェンス、セキュリティの調整、そして人類社会の進化について包括的に考察した初めての体系的な解説です。 会話全体の主なテーマは次の 3 つでした。 現在の AI テストのスコアは高いのに、現実世界でのパフォーマンスが理想からは程遠いのはなぜでしょうか? 人間の知能の「一般化と価値関数」は、将来の AI トレーニング方法にどのような影響を与えるのでしょうか? SSI はどのような「安全なスーパーインテリジェンス」を構築したいのでしょうか? 1. 現在の AI の根本的な問題: 高いスコアを獲得することはできるが、実用的な作業を行うことができない。 現在のモデル（GPT シリーズなど）はテスト タスク（評価）では非常に優れたパフォーマンスを発揮しますが、実際の経済効果は限られています。 複雑なタスクでは、モデルが「周期的なエラー」に遭遇する可能性があります。つまり、1 つのバグを修正しても、別のバグが導入されるだけです。 イリヤ氏は、強化学習の段階で「人間に報酬を与える」ことに重点を置きすぎて、現実世界における一般化能力を無視していることが原因だと指摘しています。 2. 事前トレーニングと強化学習: 真の知能はどこにあるのか? 事前トレーニング: 人間による選択なしで「すべてのデータ」を使用して、モデルは人間の世界の広範な予測を学習します。 強化学習 (RL): 手動で設計された環境が必要であり、目標は多くの場合「評価でモデルの見栄えを良くする」ことに設定されます。 イリヤは、このモデルは真の洞察力と移転可能性を欠いた「試験の受け方しか知らない学生」に似ていると主張している。 3. 人間の知性の鍵：価値機能と感情 リアは、人間が複雑な世界で学び、一般化できるのは、「固有の価値体系」を持っているからだと主張した。 このシステムは感情です: 幸福 → 肯定的なフィードバック; 不安 → 潜在的なリスクを思い出させる; 恥 → 社会戦略を調整する; 好奇心 → 探究心を刺激します。 強化学習では、これは暗黙的な価値関数のようなものです。 罰の合図を待つのではなく、事前に「方向が間違っている」と知ることができるようになります。 したがって、彼は次のように信じている。 「真の知性とは、予測する能力だけではなく、常に更新される価値体系です。」 将来のAIが「タスクが正しい方向に進んでいるかどうかを自己評価する」ことを学習できれば、人間のように「意味主導の学習能力」を備えることになるだろう。 4. 「スケーリングの時代は終わり、研究の時代が到来した」 イリヤ氏はAI業界の現状を厳しく批判し、過去10年間のAIの進歩は2つの時代に分けられると述べた。 2012～2020年：研究の時代 → イノベーションは画期的なアーキテクチャ (AlexNet、Transformer) から生まれます。 2020～2025年：スケーリングの時代 → すべての取り組みは、「データ、計算能力、およびモデルパラメータの蓄積」に重点が置かれています。 彼はこの傾向がピークに達したと考えている。 「規模の拡大によってイノベーションの息が吸い取られてしまった。」 現在: コンピューティング能力は高いままですが、さらなるリソース蓄積によるメリットは減少しています。 次のブレークスルーは、より多くの計算能力を必要とするのではなく、モデルに人間のように学習させるにはどうすればよいかという問題に立ち返る必要があります。 つまり、量的拡大から構造的イノベーションへと焦点が移ったのです。将来の競争の鍵は、コンピューティング能力ではなく、誰が新しい学習原理を提案できるかという点にあります。 5. 今後10年間のロードマップ イリヤの予測: 今後 5 ～ 20 年で、AI は人間のような方法で学習できるようになります。 できる： 積極的に世界を探検する。 物理法則と社会法則を理解する; 自己反省; また、クロスモーダル推論（多感覚統合）も可能になります。 このシステムが成熟すると、次のような成果がもたらされます。 経済生産性の爆発的な向上。 教育と研究のモデルは完全に作り直されました。 人間と機械の関係は「共知」の時代に入りました。 しかし、イリヤ氏は、国民や政府がその能力とリスクを理解できるよう、こうしたシステムは段階的に、かつ透明性を持って導入されるべきだと強調した。 彼は、SSI は段階的、安全かつ透明性のある方法で進められ、各段階における機能、リスク、管理戦略は外部からのレビューの対象となることを強調しました。 （AI翻訳のため、多少の誤りがある場合がございます。予めご了承ください。）
全文トランスxiaohu.ai/c/ai/ilya-scal…u4e7B2 youtu.be/aR20FWCCjAscd3sNhZ9Jz