そして、オープンサイエンスに関する重要なリリースです。あまり強調されていませんが、SFTの部分はトレーニング後の段階を超えています。これは、MoEトレーニング、非同期インフラ強化学習、ディープラーニングに関する膨大な洞察と貴重な情報を含む、完全に文書化されたトレーニングの中間段階です。
このレポートは、すべての中間実験について（七面鳥を食べながら？）注意深く読む価値があり、たとえ小さなモデルでも再現可能です。 https://t.co/p9nmK65bdF
スレッドを読み込み中
X から元のツイートを取得し、読みやすいビューを準備しています。
通常は数秒で完了しますので、お待ちください。