Supposons que ce soit vrai. Mais nous disposons déjà de systèmes capables de s'auto-alimenter. Ils peuvent concevoir leurs propres environnements d'entraînement. N'importe qui peut utiliser la version 3.2 et exécuter du RL trois ou cinq fois plus longtemps. On est quasiment en boucle fermée. À quel moment Xi va-t-il dire « non mec, c'est l'IA générale, arrête » ?
Un véritable autocrate soucieux de la sécurité et partageant les intuitions de Lesswrong aurait déjà mis un terme à cela aux alentours de R1. Les faits sont établis, la trajectoire est assez claire. Ce que nous constatons, c'est que le PCC croit tout simplement pouvoir conserver le contrôle même si ces capacités sont largement disponibles.