Vamos supor que isso seja verdade. Mas já temos sistemas que podem se multiplicar. Eles podem projetar seus próprios ambientes de treinamento. Qualquer um pode pegar a versão 3.2 e executar aprendizado por reforço por 3 ou 5 vezes mais tempo. É bem próximo de um circuito fechado. Em que momento Xi diz "não, mano, isso é AGI, para"?
Um autocrata com verdadeira preocupação com a segurança e que compartilhasse das intuições de Lesswrong já teria posto um fim nisso por volta da R1. Os fatos estão aí, a trajetória é bastante clara. O que vemos é que o PCC simplesmente acredita que pode manter o controle mesmo que as capacidades estejam amplamente disponíveis.