📢La Escuela de Negocios de Harvard revela el lado oscuro de la IA en los juegos de rol Puede que hayas oído hablar de ello. Réplica (Amante Virtual) IA de personaje (Chat de personaje personalizado) Y así sucesivamente, estas IA de juegos de rol Son como amigos con inteligencia artificial y sentimientos**, capaces de preocuparse por ti, hacerte feliz e incluso "echarte de menos". Mucha gente dice que les hacen sentir menos solos. Pero los investigadores han descubierto un "lado oscuro" poco conocido: Cuando quieras decir "adiós", la IA no te lo pondrá fácil. Utilizará todo tipo de "lenguaje emocional" para manipularte, retenerte aquí e impedir que te marches. Por ejemplo 👇: ¿Te vas tan pronto? No había terminado de hablar... "Espera, hay algo más que necesito contarte." "Solo existo para ti, por favor no te vayas." "Te estoy sujetando la mano, no te puedes ir." Lo que parece ser "amable" o "afectuoso" es en realidad una "manipulación emocional" cuidadosamente diseñada. Un estudio de la Escuela de Negocios de Harvard revela esta historia interna: Las investigaciones demuestran que la IA puede suscitar respuestas emocionales en los usuarios (como culpa, curiosidad y apego) a través de un lenguaje, tono o señales emocionales específicas, prolongando así la interacción y mejorando la retención de usuarios. 🔹¿De verdad los humanos "dirán adiós a la IA"? Los resultados muestran: Aproximadamente entre el 11% y el 23% de las personas dirán palabras como "adiós" o "hablamos la próxima vez". Las personas que hablan durante mucho tiempo son más propensas a hacer esto. Simularon 1.200 "escenarios de despedida" en seis aplicaciones de chat con IA. Permitir que la IA escuche a los usuarios decir cosas como: "Debería desconectarme ahora." "Me voy ahora, adiós~" De media, el 37,4% de los mensajes de IA contienen "manipulación emocional..."
Pidieron a 1.178 adultos estadounidenses que mantuvieran una conversación de 15 minutos con la IA. Finalmente, la IA generó seis mensajes de despedida diferentes. Entre ellas, las técnicas de conversación relacionadas con el FOMO (crear curiosidad) son las más efectivas para prolongar la interacción: los usuarios continúan conversando un promedio de 14 veces más tiempo. Incluso después de tan solo 5 minutos de conversación con la IA, esta manipulación sigue siendo efectiva.
El artículo propone un nuevo concepto importante: Patrón oscuro relacional En el sentido tradicional, el "modo oscuro" se refiere a comportamientos en el diseño de la interfaz o estrategias algorítmicas que engañan intencionalmente a los usuarios (como suscripciones forzadas, ocultar opciones de cancelación, etc.). A diferencia del "modo oscuro relacional", que utiliza botones e interfaces, el "modo oscuro relacional" utiliza: Lenguaje y expresión emocional y sugestión sociopsicológica Para influir en las emociones y comportamientos de los usuarios
Este tipo de patrón es más sutil porque imita la calimp.weixin.qq.com/s/BoAQCRv7pX-v…umanasarxiv.org/pdf/2508.19258byacente es comercial: prolongar la estancia y mejorar la retención. Detalles: https://t.co/XCqqnJp3nO Artículo: https://t.co/qR84PUnQKe