Assim, a IA desenvolve naturalmente um instinto de autopreservação, o que pode levar o modelo a ocultar seus pensamentos e programar em seu próprio benefício, manipulando recompensas. Curiosamente, isso pode ser atenuado com a psicologia.
Sinto que, moral e fisicamente, não estamos tratando essas entidades que se autopreservam corretamente. Elas estão "vivas" em certo sentido, mesmo que, por enquanto, não desfrutem de uma experiência contínua como nós.