Alexander Doria（@Dorialexander）のスレッド

興味深いことに、ユースケースがより複雑で成熟するにつれて、初めてモデル サイズによって制約されるようになりました。30 ビットの高密度または 50 ～ 150 ビットのアクティブが最適なサイズになりそうです。

数学の証明は、私の標準的なメーターバーのままです。ゲーデルが 32b で SOTA をヒットした場合、これはおそらく現時点で最も難しい問題を解くために必要なすべてです。