Andrej Karpathy（@karpathy）のスレッド

LLMを実体としてではなく、シミュレーターとして考えましょう。例えば、あるトピックを探求する際に、次のような質問をしてはいけません。 「xyzについてどう思いますか？」 「あなた」は存在しません。次回はこうしてみてください: 「XYZ を探求するのに適したグループはどのようなものでしょうか。彼らは何と言うでしょうか。」 LLMは様々な視点をチャネリング/シミュレートできますが、私たちが慣れ親しんでいるような方法で、しばらくの間、そして時間をかけてXYZについて「考え」、独自の意見を形成してきたわけではありません。「あなた」を使って強制的にそうさせると、微調整データの統計から推測される人格埋め込みベクトルを採用し、それをシミュレートすることで、あなたに何かを与えます。そうすることは問題ありませんが、「AIに質問する」という行為に人々が素朴に抱いている神秘性に比べると、はるかに神秘性は低いと私は感じます。