来自 Teortaxes▶️ (DeepSeek 推特🐋铁粉 2023 – ∞)（@teortaxesTex）的推文线程

我预计他们会：1）像ZAYA那样，在压缩和潜在计算方面进行更深入的研究；2）显著提高稀疏性，或许会完全放弃模态矩阵（MoE），直接使用小世界电路，或者探索类似UT（子系统）的方法。如果V4版本没有实现，那么会在后续论文中实现。