Alexander Doria（@Dorialexander）のスレッド

RL lora ランク サイズを詳細に調査すると、推論 計算努力のスケーリング法則が見つかるのを待っているという全体的な感覚が強まります。

ようやく制御された合成環境ができたので、事前学習側でも同様のトレードオフが見られるようになりました。例えば、レイヤーを積み重ねることは、一部のタスク／ドメイン（数学）では他のタスク／ドメインよりも効果的です。