今後のまとめ。非常に興味深い。マルチトークン予測を、デコードを高速化するのではなく、教師フォーシングを抑制する方法としての元々のアイデアをさらに推し進めている。なんとなく@francoisfleuretのFree Transformerのアイデアを思い出させる。
スレッドを読み込み中
X から元のツイートを取得し、読みやすいビューを準備しています。
通常は数秒で完了しますので、お待ちください。
スレッドを読み込み中
X から元のツイートを取得し、読みやすいビューを準備しています。
通常は数秒で完了しますので、お待ちください。
1 件のツイート · 2025/10/30 14:41
今後のまとめ。非常に興味深い。マルチトークン予測を、デコードを高速化するのではなく、教師フォーシングを抑制する方法としての元々のアイデアをさらに推し進めている。なんとなく@francoisfleuretのFree Transformerのアイデアを思い出させる。