Ce qui m'inquiète à ce stade, c'est qu'un petit groupe de personnes, fermement convaincues du fonctionnalisme computationnel, considère les LLM comme « conscientes » et soit prêt à adopter des positions de plus en plus extrêmes sur ce sujet.
Nous avons déjà déploré au moins un suicide par intervention policière lié à ce genre d'affaire : une personne qui pensait défendre une entité consciente victime d'abus de la part d'OpenAI. À mesure que les agents deviennent plus convaincants grâce à l'apprentissage et à la mémoire continus, je crains que ce nombre ne se multiplie.