如果「認知核心」只知道最少的事實,那麼上下文中必須包含大量信息,使用預先計算好的想法的卡帶比每次查詢都掃描原始文檔要高效得多。
此外,先前的「前綴調諧」論文證明,KV 前綴也可以起到微調的作用,因此卡帶也可以包含技能、文字樣式等。而且與 LoRA 轉接器不同,它們是可組合的。
正在載入線程內容
正在從 X 取得原始推文,整理成清爽的閱讀畫面。
通常只需幾秒鐘,請稍候。
共 2 則推文 · 2025年10月30日 下午5:37
如果「認知核心」只知道最少的事實,那麼上下文中必須包含大量信息,使用預先計算好的想法的卡帶比每次查詢都掃描原始文檔要高效得多。
此外,先前的「前綴調諧」論文證明,KV 前綴也可以起到微調的作用,因此卡帶也可以包含技能、文字樣式等。而且與 LoRA 轉接器不同,它們是可組合的。