「認知コア」が最小限の事実しか知らない場合、コンテキストには大量の情報を含める必要があり、クエリごとに生の文書をスキャンするよりも、事前に計算された考えを備えたカートリッジを使用する方がはるかに効率的です。
さらに、以前の「プレフィックス チューニング」の論文では、KV プレフィックスも微調整と同じ効果を持つ可能性があることが実証されており、カートリッジにはスキルやテキスト スタイルなども含めることができます。また、LoRA アダプターとは異なり、それらは構成可能です。
スレッドを読み込み中
X から元のツイートを取得し、読みやすいビューを準備しています。
通常は数秒で完了しますので、お待ちください。