Si vous voulez savoir si l'IA menacera l'humanité à l'avenir, comment construire un signal de suivi ? Les travaux d'Hjalmar au METR (un institut de recherche en sécurité de l'IA) portent sur la création d'un « tableau de bord d'alerte précoce » pour suivre deux capacités futures : - Capacité de réplication autonome : une IA peut-elle acquérir des ressources de manière autonome et maintenir sa propre existence, rendant impossible pour les humains de « simplement l'arrêter » ? - Recherche et développement automatisés en IA : l’IA peut-elle développer sa propre IA, entraînant une croissance explosive de ses capacités ? Ces deux facteurs sont assez intéressants : l’impossibilité de débrancher l’énergie et la croissance explosive continue pourraient être une condition nécessaire pour menacer l’humanité…
Chargement du thread
Récupération des tweets originaux depuis X pour offrir une lecture épurée.
Cela ne prend généralement que quelques secondes.