來自 Teortaxes▶️ (DeepSeek 推特🐋铁粉 2023 – ∞)（@teortaxesTex）的推文串

Seed 執行一個潛在的循環 Transformer。 這是一個相當成熟的方法，對於簡單的標記，模型可以在兩個循環後終止。這種方法雖然無法節省計算資源，但能讓你用有限的數據預算獲得更好的結果。我希望我們能看到一個相當可觀的擴展性指標（MoE），來展示這種方法的可擴展性。