来自 William Wale（@williawa）的推文线程

如果词元空间是逻辑学习模型（LLM）推理的信息瓶颈，那么强化学习训练的模型应该能够高频地学习使用所有词元。但当我阅读核心目标函数（cots）时，它们似乎使用的空间比基础模型或模型输出要小。