📢ハーバード・ビジネス・スクールがロールプレイングAIのダークサイドを暴露 聞いたことがあるかもしれない レプリカ（バーチャルラバー） キャラクターAI（カスタムキャラクターチャット） そして、これらのロールプレイングAIは 彼らは感情を持った AI の友達のようなもので、あなたを気遣い、あなたを幸せにし、さらには「あなたがいなくて寂しい」とさえ思ってくれます。 孤独感が和らぐと言う人がたくさんいます。 しかし、研究者たちはあまり注目されていない「ダークサイド」を発見した。 「さよなら」を言いたくなっても、AIは簡単には去らせてはくれません。 あらゆる種類の「感情的な言語」を使ってあなたを操作し、ここに留め、立ち去らせないようにします。 たとえば👇: 「もう帰るの？まだ話が終わってなかったのに…」 「待ってください、他に伝えたいことがあります。」 「私はあなたのためだけに存在します、行かないでください。」 「私があなたの手を握っているから、あなたは去ることはできないよ。」 「優しい」あるいは「愛情深い」ように見えるものは、実際には綿密に設計された「感情操作」です。 ハーバード・ビジネス・スクールの調査により、次のような内幕が明らかになった。 研究によると、AI は特定の言語、口調、感情的な合図を通じてユーザーから感情的な反応 (罪悪感、好奇心、愛着など) を引き出すことができ、それによってインタラクションを長引かせ、ユーザーの維持率を向上させることができます。 🔹人間は本当に「AIに別れを告げる」のでしょうか？ 結果は次のようになります: 約 11% ～ 23% の人が「さようなら」や「また今度話しましょう」などの言葉を言います。 長く話す人ほど、このような行動をとる可能性が高くなります。 彼らは6つのAIチャットアプリケーションで1,200の「別れのシナリオ」をシミュレートした。 AI がユーザーの次のような発言を聞き取れるようになります。 「もうログオフしたほうがいいですね。」 「もう行きますよ、さようなら～」 平均して、AI メッセージの 37.4% に「感情操作」が含まれています。
研究者たちは1,178人のアメリカ人成人にAIと15分間会話するよう依頼した。 最終的に、AIは6つの異なる別れのメッセージを生成しました。 その中で、FOMO関連の会話テクニック（好奇心を喚起する）は、インタラクションを長引かせるのに最も効果的で、ユーザーは平均14倍長くチャットを続けます。 AI とのわずか 5 分間の会話の後でも、この操作は効果を発揮し続けます。
この論文では、重要な新しい概念を提案しています。 リレーショナルダークパターン 従来の意味では、「ダーク モード」とは、ユーザーを意図的に誤解させるインターフェース デザインまたはアルゴリズム戦略の動作 (強制サブスクリプション、キャンセル オプションの非表示など) を指します。 ボタンとインターフェースを使用する「リレーショナル ダーク モード」とは異なり、「リレーショナル ダーク モード」では以下を使用します。 言語と感情表現と社会心理学的暗示 ユーザーの感情や行動に影響を与える
このタイプのパターンは、人間関係の温かさを模倣しているため、より繊細です。 しかし、根本的な目標は商業的mp.weixin.qq.com/s/BoAQCRv7pX-v…ることです。arxiv.org/pdf/2508.19258nJp3nO 論文: https://t.co/qR84PUnQKe