最近我了解到 VaultGemma,这是谷歌最近尝试用差分隐私预训练 LLM 模型的一个项目,这让我既印象深刻又觉得很有趣。 TLDR: - 第一个没有可检测训练数据记忆的LLM 用尽了所有技巧,计算能力提升了100倍,最终达到了GPT-2的水平。