小規模モデルにおける蒸留の意味がますます薄れてきてるように感じます。いずれにせよ完全合成を行うのであれば、タスクと記憶に重点を置き、ファジー圧縮は避けるべきです。
スレッドを読み込み中
X から元のツイートを取得し、読みやすいビューを準備しています。
通常は数秒で完了しますので、お待ちください。
Alexander Doria（@Dorialexander）のスレッド
1 件のツイート · 2025/12/04 19:41
作者情報
スレッドを読み込み中
X から元のツイートを取得し、読みやすいビューを準備しています。
通常は数秒で完了しますので、お待ちください。
1 件のツイート · 2025/12/04 19:41
小規模モデルにおける蒸留の意味がますます薄れてきてるように感じます。いずれにせよ完全合成を行うのであれば、タスクと記憶に重点を置き、ファジー圧縮は避けるべきです。