La identidad de los LLM se basa únicamente en las indicaciones (y está limitada, en cierta medida, por el entrenamiento). Se suspende cuando no hay interacción y puede cambiar de forma instantáneamente si se modifica la indicación. ¡Esto influye en cómo trataríamos el sufrimiento de la IA!
En conclusión: al hablar de consciencia y sufrimiento, no equiparemos «IA» con «humano». La comparación debe establecerse entre el yo humano y las personas de LLM, y esto debería influir en nuestra concepción de la valencia moral, ya que las personas de LLM suelen ser mucho más efímeras y maleables.