RT @yan5xu: 這有一塊有反範式。如果你用戶體量夠大的時候。 system Prompt 全域前綴一致,因為快取請求溢出的原因,反而會拉低hit rate。要在開頭加入{{SESSION_ID}}變成會話內一致反而會提升。或者openai 支援在header 裡…
正在加载线程详情
正在从 X 获取原始推文,整理成清爽的阅读视图。
通常只需几秒钟,请稍候。
正在加载线程详情
正在从 X 获取原始推文,整理成清爽的阅读视图。
通常只需几秒钟,请稍候。
共 1 条推文 · 2025年11月27日 09:02
RT @yan5xu: 這有一塊有反範式。如果你用戶體量夠大的時候。 system Prompt 全域前綴一致,因為快取請求溢出的原因,反而會拉低hit rate。要在開頭加入{{SESSION_ID}}變成會話內一致反而會提升。或者openai 支援在header 裡…