來自 Alexander Doria（@Dorialexander）的推文串

我越來越覺得對於小型模型來說，蒸餾的意義不大。如果最終還是要採用全合成方法，那麼針對特定任務和記憶進行選擇性目標最佳化遠優於模糊壓縮。