AIGCLINK（@aigclink）のスレッド

AndrejKarpathy @karpathy: 大規模なモデルを「自己認識エンティティ」として扱うのではなく、「シミュレータ」として扱ってください。 たとえば、あるトピックについて議論したいときに、「xyz についてどう思いますか?」と尋ねないでください。 だって、「あなた」なんて存在しないんだから！ 別の方法としては、次の方法があります。 XYZというテーマを探求するのに適した人はどのような人でしょうか？彼らはどのようなことを言うでしょうか？ 大規模モデルは複数の視点をシミュレートできますが、人間が慣れているような、xyzについて長い時間をかけて「考え」、自分の意見を形成することはありません。「あなた」を使って質問せざるを得ない場合、微調整されたデータの統計的特性に基づいて暗黙的に「性格埋め込みベクトル」を採用し、その性格をシミュレートして回答します。これは確かに可能ですが、人々が想像するような「神秘的な心」はそこに存在せず、単に確率に基づいたシミュレーションです。 つまり、大型モデルを効果的に活用するには、まずモデルの役割リストを作成する必要があります。モデルは複数のキャラクターを同時に演じることができるため、様々な視点を一度に明確に把握できます。「どう思いますか？」と尋ねてはいけません。そうしないと、正体不明のキャラクターがランダムに選ばれ、そのキャラクターの立場を推測できないセリフを言わせてしまうだけになります。 #AIプロンプト