William Wale（@williawa）のスレッド

トークン空間が推論LLMの情報ボトルネックになっているとすれば、RLで訓練されたモデルはすべてのトークンを高頻度で使用するように学習すると期待されます。しかし、cotsを読むと、それらはベースモデルやモデルの出力よりも狭いトークン空間を利用しているように見えます。