来自 Teortaxes▶️ (DeepSeek 推特🐋铁粉 2023 – ∞)（@teortaxesTex）的推文线程

DeepSeek 的理论基础非常扎实，它凭借 NSA 赢得了 ACL 的最佳论文，但似乎对大规模应用的结果并不满意，于是设计了一种更好的架构，该架构还可以使用完整的注意力模型，并发表了该架构，同时还共享了权重。 我们常常怀疑谷歌的做法恰恰相反。