來自 Teortaxes▶️ (DeepSeek 推特🐋铁粉 2023 – ∞)（@teortaxesTex）的推文串

DeepSeek 的理論基礎非常紮實，它憑藉 NSA 贏得了 ACL 的最佳論文，但似乎對大規模應用的結果並不滿意，於是設計了一種更好的架構，該架構還可以使用完整的注意力模型，並發表了該架構，同時還共享了權重。 我們常常懷疑谷歌的做法恰恰相反。