実験検証: GoogleはHopeと呼ばれるモデルを設計しました。その特徴は次のとおりです。 自己修正が可能で、学習が必要な部分を自動的に判断します。 各レイヤーの更新速度は異なります。 ある知識を「驚きのレベル」に基づいて記憶するかどうかを決定します(たとえば、これまで見たことのないデータを記憶することを優先します)。 実験結果: Hope は、「長いコンテキストの理解」と「知識の保持」において既存のすべてのモデルを上回ります。
希望: 長いテキストは記憶力を高め、推論力と常識的な判断力を向上させ、新しいタスクを学習するときに古いタスクを忘れることがほとんどなくなります。 これは、長いコンテキストの「干し草の山の中の針」(NIAH) ダウンストリーム タスクにおいて優れたメモリ管理機能を発揮します。
なぜこれが重要なのでしょうか? ネスト学習の出現は、AIがもはや単なる「学習」ではなく、自ら継続的に成長できることを意味します。AIには以下の機能があります。 人間と同じように、経験を積み重ね、学習方法を学び、長期的に安定した知識構造を維持します。 これは多くの分野に重大な影響を及ぼします。 🤖 継続的な AI 学習: モデルは古い知識を忘れることなく、新しい知識を継続的に学習できます。 🧠 人間のような知能: 学習方法は人間の脳の神経可塑性に近いです。 ⚙️ 自己最適化 AI: モデルはコンテンツを学習するだけでなく、「学習方法」も学習します。
詳細はhtxiaohu.ai/c/xiaohu-ai/go…覧ください。


