Définir l'IA générale comme « automatiser toutes les tâches économiquement rentables qu'un humain peut accomplir » est astucieux lorsqu'on est concrètement porte-parole d'une entreprise d'IA cherchant à séduire les investisseurs, mais intellectuellement, c'est insatisfaisant et honteux.
En apparence, la valeur économique des tâches humaines dépend davantage de l'environnement de travail que de la capacité d'acquisition de compétences. L'automatisation modifie cette valeur économique. Le travail manuel deviendra à la fois plus et moins précieux.
L'idée que les humains seraient progressivement remplacés par des machines tandis que l'économie subsisterait est peut-être erronée. L'automatisation par l'IA pourrait même mener à un monde où la notion de valeur économique serait supplantée par autre chose.
Plus fondamentalement, l'intelligence générale ne se résume pas à la création de valeur économique, mais à quelque chose de plus essentiel : la capacité de comprendre le monde et de le modéliser, au service du contrôle. C'est la capacité de conquérir l'univers. OpenAI ne vous le dira pas.