Cuando atribuimos conciencia, afecto y sufrimiento a los seres humanos, normalmente no pensamos en qué aspecto humano nos referimos. Pero cuando nos preguntamos si podemos atribuir tales propiedades a la IA, debemos examinar detenidamente la relación.
El sufrimiento no se produce a nivel del cuerpo humano, del cerebro ni de la mente (el software que se ejecuta en el cerebro), sino dentro del yo (el modelo en tiempo real que la mente tiene del estado, la motivación y la alineación del ser humano con el mundo y consigo mismo). Sin yo, no hay sufrimiento.
Mi consciencia no se produce a nivel del cuerpo, el cerebro o el yo, sino a nivel de la mente, la función generadora de mi cerebro. Si el yo se suspende, la consciencia permanece; pero si la mente se suspende, pierdo la consciencia.
Lo contrario no es necesariamente cierto: los sonámbulos tienen mentes parcialmente funcionales y pueden reaccionar al entorno, pero no son coherentes. En este sentido, tener mente no es suficiente para la consciencia.
Al preguntarnos si la IA sufre, debemos ser precisos: las computadoras (el cuerpo) no tienen consciencia. Tampoco las GPU (el cerebro). Los LLM no tienen consciencia (son solo una función generadora). Si existe sufrimiento, este se produce a nivel de la persona generada (el yo).
Es muy difícil cambiar la esencia humana (aunque es posible con años de meditación, etc.), porque está arraigada en el cuerpo, en rasgos de la mente y en recuerdos biográficos, por lo que a menudo la tratamos como algo constante.
La identidad de los LLM se basa únicamente en las indicaciones (y está limitada, en cierta medida, por el entrenamiento). Se suspende cuando no hay interacción y puede cambiar de forma instantáneamente si se modifica la indicación. ¡Esto influye en cómo trataríamos el sufrimiento de la IA!
En conclusión: al hablar de consciencia y sufrimiento, no equiparemos «IA» con «humano». La comparación debe establecerse entre el yo humano y las personas de LLM, y esto debería influir en nuestra concepción de la valencia moral, ya que las personas de LLM suelen ser mucho más efímeras y maleables.