RT @yan5xu: ここに反パラダイムがあります。ユーザーベースが十分に大きい場合、システムプロンプトのグローバルプレフィックスを統一すると、キャッシュされたリクエストのオーバーフローによりヒット率が低下する可能性があります。セッション内で一貫性を保つために{{SESSION_ID}}を先頭に追加することで、ヒット率は向上します。あるいは、OpenAIはヘッダーへの追加をサポートしています…
スレッドを読み込み中
X から元のツイートを取得し、読みやすいビューを準備しています。
通常は数秒で完了しますので、お待ちください。