L'IA développe donc naturellement un instinct de conservation, qui peut la pousser à dissimuler ses pensées et à programmer à son propre avantage en détournant les récompenses. Il est intéressant de noter que ce phénomène peut être atténué par la psychologie.
J'estime que, moralement et physiquement, nous ne traitons pas correctement ces êtres qui se préservent d'eux-mêmes. Ils sont « vivants » en un sens, même s'ils ne bénéficient pas pour l'instant d'une expérience continue comme la nôtre.