宝玉（@dotey）のスレッド

AKは、LLM（大規模言語モデル）に話しかける際には、「あなた」という表現を少なくし、代わりにその分野の専門家は誰なのかを尋ねるべきだと提案しています。そして、AIにその分野の専門家をシミュレートさせて質問に答えさせましょう。こうすることで、より良い結果が得られるでしょう。 アンドレイ・カルパティ氏は2年以上前にGPTの現状について同様の発言をしました。（コメントを参照） アンドレイ・カルパティ： 大規模言語モデル (LLM) を、生き生きとした「エンティティ」としてではなく、非常に強力な「シミュレータ」として考えてください。 たとえば、あるトピックを詳しく調べたいときは、次のような質問をしてはいけません。 xyzについてどう思いますか？ なぜなら、「あなた」というものは存在しないからです。 次回は違う質問をしてみましょう: 「もし私たちがxyzというテーマについて議論するとしたら、最も適した人々（専門家や利害関係者など）は誰でしょうか？彼らは何と言うでしょうか？」 大規模言語モデルは、多様な視点を容易に導き、シミュレートすることができます。しかし、人間とは異なり、長期的な「思考」やXYZに関する考察を通じて独自の視点を形成することはありません。 「あなた」という言葉を使って質問を強要しようとすると、モデルは微調整中のデータの統計パターンに基づいて暗黙的な「パーソナリティ埋め込みベクトル」を強制的に呼び出し、そのパーソナリティとして行動して回答をシミュレートします。（注：簡単に言うと、「あなた」と質問した場合、AIは実際に自己認識型のパーソナリティを生成するのではなく、トレーニングデータ内の最も一般的な回答パターンに基づいて、あなたの回答に合わせて「一般的な」マスクを被っているだけです。） 確かにそうするのは良いことですし、答えも得られます。しかし、多くの人がそれを「AIにどう考えているか尋ねる」ことと単純に捉え、何か神秘的なものだと捉えていることに気づきました。実際には、どのようにシミュレーションされているかを理解すれば、その神秘のベールは剥がれます。