我不知道为什么操作系统推理引擎仍然存在这个问题,几乎每个模型都存在不同程度的问题——这是 GLM 4.6,每 10000 个样本中就有 23 个是这种情况——通过 openrouter,所以可能是 vllm 或 sglang 的问题…… 这个问题已经持续两年了,而我使用 GPT/Claude 等工具处理超过 50 万条回复,只遇到过两三次类似的情况。
正在加载线程详情
正在从 X 获取原始推文,整理成清爽的阅读视图。
通常只需几秒钟,请稍候。
正在加载线程详情
正在从 X 获取原始推文,整理成清爽的阅读视图。
通常只需几秒钟,请稍候。
共 1 条推文 · 2025年11月10日 18:48
我不知道为什么操作系统推理引擎仍然存在这个问题,几乎每个模型都存在不同程度的问题——这是 GLM 4.6,每 10000 个样本中就有 23 个是这种情况——通过 openrouter,所以可能是 vllm 或 sglang 的问题…… 这个问题已经持续两年了,而我使用 GPT/Claude 等工具处理超过 50 万条回复,只遇到过两三次类似的情况。