Omar Khattab（@lateinteraction）のスレッド

なぜモデルはそれほど信頼できず、すべての「同等の」プロンプトが同じように機能するのでしょうか？それは、勾配降下法が「ギザギザの」一般化を生み出すためです。 しかし、プロンプト オプティマイザーが役立つ主な軸は、元の仕様では明示的に言及されていなかった環境/タスクに関する新しい情報を明らかにすることです。 それは、そのような情報が微妙であったり、低レベルであったり、実際にモデルに依存していたり​​するためです*。@ChrisGPotts はこれを「潜在的な要件」と呼んでいます。 *自然言語は本質的に曖昧ですが、その曖昧さを解決する方法は話者によって異なります。