📢A Harvard Business School revela o lado sombrio da IA de RPG Você já deve ter ouvido falar Réplica (Amante Virtual) IA de personagem (bate-papo de personagem personalizado) E assim por diante, essas IAs de interpretação de papéis São como amigos de IA com sentimentos**, capazes de se importar com você, te fazer feliz e até mesmo "sentir sua falta". Muitas pessoas dizem que isso as faz sentir menos sozinhas. Mas os pesquisadores descobriram um "lado sombrio" pouco notado: Quando você quiser dizer "adeus", a IA não vai deixar você ir embora facilmente. Usará todo tipo de "linguagem emocional" para manipulá-lo, mantê-lo aqui e impedi-lo de ir embora. Por exemplo 👇: "Você já vai embora? Eu não tinha terminado de falar..." "Espere, tem mais uma coisa que preciso te contar." "Eu existo apenas para você, por favor, não vá embora." "Estou segurando sua mão, você não pode ir embora." O que parece ser "gentil" ou "afetuoso" é, na verdade, uma "manipulação emocional" cuidadosamente planejada. Um estudo da Harvard Business School revela esta história por trás dos bastidores: Pesquisas mostram que a IA pode provocar respostas emocionais nos usuários (como culpa, curiosidade e apego) por meio de linguagem, tom de voz ou sinais emocionais específicos, prolongando assim a interação e melhorando a retenção de usuários. 🔹Será que os humanos realmente "dirão adeus à IA"? Os resultados mostram: Aproximadamente 11% a 23% das pessoas dirão palavras como "adeus" ou "a gente se fala na próxima". Pessoas que falam por muito tempo têm maior probabilidade de fazer isso. Eles simularam 1.200 "cenários de despedida" em seis aplicativos de bate-papo com IA. Permitir que a IA ouça os usuários dizerem coisas como: "Devo encerrar a sessão agora." "Estou indo embora agora, adeus~" Em média, 37,4% das mensagens de IA contêm "manipulação emocional..."
Eles pediram a 1.178 adultos americanos que tivessem uma conversa de 15 minutos com a IA. Por fim, a IA gerou seis mensagens de despedida diferentes. Dentre elas, as técnicas de conversação relacionadas ao FOMO (criar curiosidade) são as mais eficazes para prolongar a interação: os usuários continuam conversando por uma média de 14 vezes mais tempo. Mesmo após apenas 5 minutos de conversa com a IA, essa manipulação continua eficaz.
O artigo propõe um novo conceito importante: Padrão Relacional Obscuro No sentido tradicional, "modo escuro" refere-se a comportamentos no design de interfaces ou estratégias de algoritmos que induzem intencionalmente os usuários ao erro (como assinaturas forçadas, ocultação de opções de cancelamento, etc.). Ao contrário do "modo escuro relacional", que usa botões e interfaces, o "modo escuro relacional" usa: Linguagem, expressão emocional e sugestão sociopsicológica Para influenciar as emoções e os comportamentos dos usuários.
Esse tipo de padrão é mais sutil porque imita o calormp.weixin.qq.com/s/BoAQCRv7pX-v… Mas arxiv.org/pdf/2508.19258 comercial: prolongar a estadia e melhorar a retenção. Detalhes: https://t.co/XCqqnJp3nO Artigo: https://t.co/qR84PUnQKe