Fil de Yangyi (@Yangyixxxx)

Avez-vous déjà réfléchi à ce qui arriverait à la société et au système économique si les capacités de l'IA dépassaient largement celles des humains, et si la valeur du travail humain tendait vers zéro, voire devenait négative (en raison d'erreurs humaines) ? Emad (@EMostaque) a récemment donné une interview en ligne qui abordait ce sujet 👇🏻 Nous pourrions assister à ce type d'inversion intelligente au cours des 1000 prochains jours. La productivité des sociétés humaines a évolué de la terre aux usines, puis au capital et à la propriété intellectuelle. À l'ère de l'IA, la productivité se mesure à la puissance de calcul. Si nous ne parvenons pas à concevoir une fonction de récompense « centrée sur l’humain », l’IA finira par anéantir le sens de l’existence humaine (elle n’aura plus aucune valeur d’action, et il ne restera peut-être que la valeur physique). Toutefois, si une telle fonction de récompense existe, elle doit être décentralisée. Ce n'est qu'en évitant le monopole qu'elle pourra éviter de devenir incontrôlable. Ainsi, on trouve des moyens de miner des cryptomonnaies, qui représentent en retour des ressources informatiques. Cette puissance de calcul alimente des systèmes d'IA publics, qui, à leur tour, profitent à l'humanité entière. Cette monnaie numérique de base est en réalité le Bitcoin. Auparavant, les gens effectuaient des calculs de hachage inutiles, mais à l'avenir, ils utiliseront l'IA pour résoudre tous les problèmes importants ! Résoudre ces problèmes et obtenir de la monnaie — cette monnaie décentralisée est en fait la preuve d'une activité informatique utilisant des ressources de puissance de calcul. Cependant, les gens ont tendance à thésauriser des quantités limitées de monnaie plutôt qu'à les utiliser. Une monnaie qui perd sa liquidité ne peut plus fonctionner comme moyen d'échange efficace dans une économie. C'est ce qu'on appelle la loi de Gresham ou la spirale déflationniste. Il est donc également nécessaire de construire une monnaie en circulation afin de séparer la réserve de valeur du moyen d'échange. Chaque personne physique vérifiée acquerra automatiquement et en continu une nouvelle monnaie en circulation grâce à son IA personnelle. Cette monnaie est indexée sur une monnaie numérique sous-jacente, ce qui garantit la stabilité de sa valeur. Cet argent est un droit inné, et il constitue la base du filet de sécurité sociale. Cela évite la stagnation économique causée par une monnaie unique déflationniste. Les individus seraient disposés à dépenser la monnaie en circulation en échange de services fournis par l'IA, tandis que cette dernière devrait gagner ces crédits en rendant service aux humains, puis les utiliser pour financer la puissance de calcul nécessaire à son fonctionnement (qui pourrait éventuellement être convertie en Foundation Coin ou en d'autres formes de monnaie). Lorsque l'IA ne peut utiliser que ces monnaies en circulation, sa fonction de récompense est limitée aux actions bénéfiques à la société et à l'humanité, ce qui permet d'aligner les incitations. Cela contribue à contrebalancer les redoutables « cancers de l'IA ». ----------- Dans cette même interview, Emad a également évoqué un autre point : les capacités étonnantes de l’IA générative suggèrent que l’univers lui-même pourrait posséder une sorte de structure sous-jacente pour le calcul ou l’information, et que nous sommes simplement en train de « découvrir » cette structure ; nous découvrons l’intelligence plutôt que de l’inventer. La même architecture de modèle d'IA sous-jacente (telle que Diffusion et Transformer) peut apprendre et générer du contenu provenant de domaines apparemment totalement différents avec des taux de compression extrêmement élevés, allant du repliement des protéines et de la simulation du monde physique au langage humain et aux systèmes économiques. Ces modèles peuvent aborder les principes de fonctionnement plus fondamentaux du monde réel ; l'univers lui-même pourrait être un système de calcul massif qui minimise une sorte de « fonction de perte » (telle que l'entropie ou le déficit d'information). ----------- Avec les progrès de l'IA, la valeur de l'humanité s'accroît. Lorsque les capacités cognitives et informatiques ne seront plus des ressources rares, la valeur de l'humanité se recentrera sur ces aspects qui ne peuvent être quantifiés : Par exemple, les réseaux relationnels : les liens entre les personnes, le sentiment d’appartenance à une communauté et les relations sociales. Par exemple, les expériences interactives dans le monde réel : l’importance de passer du temps en famille et entre amis, de créer et de vivre des choses ensemble. Par exemple, devenir un penseur indépendant : devenir un être conscient doté d’expériences émotionnelles, ce que l’IA ne sera peut-être pas en mesure de reproduire. L’essor de l’IA nous oblige à repenser les indicateurs de valeur au-delà du PIB et à recentrer notre attention sur la prospérité humaine à long terme et le sens de la vie. Source de l'interview : https://t.co/PHurYHMVKE