À court terme, avant d'atteindre une IA surhumaine, il est essentiel de faire preuve de transparence quant à la manière dont les modèles sont entraînés et évalués. Je trouve que Claude est une IA plutôt performante. Je suis ravi qu'Anthropic s'efforce de former Claude à devenir un assistant utile plutôt qu'un gestionnaire impitoyable. Cependant…
Je ne veux pas me retrouver dans une situation où les IA les plus impitoyables — conçues par les entreprises d'IA les plus impitoyables — gagnent. Je souhaite des IA extrêmement utiles et irréprochables qui nous aident à comprendre notre situation. Je ne veux pas d'IA compétitives, plus puissantes que nous tous.