Karpathy a récemment publié une déclaration : l'IA est essentiellement du « logiciel 2.0 », et le critère clé pour déterminer si une tâche ou une profession est facilement automatisable est la « vérifiabilité ». Karpathy ne se contente pas de comparer l'IA à des événements macro-historiques comme l'« électricité » ou la « révolution industrielle », mais propose une analogie plus précise : l'IA est essentiellement un « logiciel 2.0 ». L'IA n'est plus un « logiciel 1.0 », où les humains écrivaient manuellement des règles fixes. Désormais, elle automatise le traitement de l'information numérique en « recherchant » automatiquement des réseaux neuronaux efficaces au sein d'un vaste espace de paramètres, grâce à des algorithmes comme la descente de gradient, en fonction d'objectifs spécifiés (tels que la précision de la classification ou les fonctions de récompense). L'évolution des « indicateurs prédictifs » pour les tâches automatisées Karpathy établit un parallèle avec l'ère informatique des années 1980 : à cette époque, les tâches les plus facilement automatisées étaient celles qui reposaient sur des algorithmes fixes et des règles bien définies, comme la saisie de données, la comptabilité ou les calculs manuels. Ces tâches avaient en commun d'être « faciles à spécifier » : les humains pouvaient rédiger des instructions précises, étape par étape. À l’ère actuelle du « logiciel 2.0 » et de l’IA, l’indicateur clé permettant de déterminer si une tâche ou une profession est facilement automatisable est la « vérifiabilité ». Plus précisément : • Tâches vérifiables : les résultats peuvent être rapidement évalués et traités selon des critères objectifs. Il peut s’agir, par exemple, de problèmes de mathématiques, de programmation, d’analyse du temps de visionnage de vidéos ou de toute autre énigme. Ces tâches se prêtent parfaitement à l’apprentissage par renforcement : l’IA peut s’exercer de manière répétée dans un environnement réinitialisable, générant efficacement un grand nombre de tentatives et récompensant automatiquement les réussites. De ce fait, l’IA peut surpasser la rapidité et la précision des meilleurs experts humains. • Tâches non vérifiables : Ces tâches font appel à la créativité, à la prise de décisions stratégiques ou nécessitent l’intégration de connaissances du monde réel, du contexte et du bon sens (comme la création artistique ou les négociations complexes). Elles rendent difficile la construction de « fonctions de récompense » fiables, obligeant l’IA à s’appuyer sur une « magie » de généralisation ou à imiter les humains, ce qui ralentit les progrès et explique la « frontière en zigzag » de l’apprentissage automatique : des avancées rapides dans certains domaines contrastant avec des retards dans d’autres. Les implications économiques et sur l'emploi de l'IA expliquent son effet en dents de scie : les emplois vérifiables (comme la programmation et l'analyse de données) seront automatisés plus rapidement, ce qui pourrait réduire le nombre de postes correspondants ; les domaines non vérifiables (comme le conseil en stratégie qui requiert un jugement humain) resteront dépendants de l'humain à court terme, constituant ainsi une solution de repli. Cependant, à long terme, Karpathy suggère que, grâce à l'amélioration des outils de vérification (comme les simulateurs ou les vérificateurs experts), davantage de tâches seront contrôlées par l'IA. Le « logiciel 1.0 » automatise facilement ce que vous pouvez spécifier ; le « logiciel 2.0 » automatise facilement ce que vous pouvez vérifier !
