來自 Teortaxes▶️ (DeepSeek 推特🐋铁粉 2023 – ∞)（@teortaxesTex）的推文串

拋開地緣政治不談，這確實是機理可解釋性方面一個極其有趣的進展。 Goodfire 利用損失曲率分析，在權重空間層面分解記憶化和泛化結構，並透過權重編輯抑制記憶效應。

記憶訓練點的曲率比非記憶訓練點的曲率要陡峭得多，這意味著按曲率從高到低排序權重分量可以揭示出這種區別，而無需明確的標籤。 我一直在談論“尖峰奇點”，他們對此進行了正式的處理。