Voici mon avis sur la question. Au début des années 2010, le secteur technologique s'est activement positionné comme bienveillant et omniscient, et la presse spécialisée a joué le jeu. L'algorithme de Netflix vous connaissait mieux que vous-même, Stitch Fix utilisait la mécanique quantique pour créer votre tenue idéale, et ainsi de suite.
L'entreprise Target savait qu'une jeune fille était enceinte avant même que ses parents ne le sachent, et cette information a été perçue comme une bonne chose, quoique légèrement troublante. Le Big Data était utilisé pour créer un monde idéal pour chaque individu grâce à la personnalisation et aux systèmes de recommandation.
Tout cela a coïncidé avec de véritables miracles technologiques et des bouleversements sociétaux, les réseaux sociaux et les smartphones étant les deux plus importants. Ces nouvelles technologies, sans précédent, ont rendu le mythe de l'omnipotence très plausible.
Et les acteurs les plus importants ont mis l'accent sur l'aspect bienveillant de cette mythologie, sur le fait de connecter le monde, de démocratiser, de ne pas être mauvais, etc.
Mais lorsqu'on est omniscient, omnipotent et bienveillant, on est confronté au problème du mal, et c'est précisément ce qui s'est produit. L'indignation n'a cessé de croître face à l'idée qu'un être tout-puissant puisse permettre que de telles choses se produisent.
Et le plus étonnant, c'est que l'idée que les gens étaient le plus prompts à abandonner était celle de la bienveillance. Il était bien plus crédible que les géants du numérique utilisent leur toute-puissance à des fins maléfiques que de croire qu'ils n'étaient pas omnipotents.
Je pense donc que, dans les années 2020, pour éviter le piège du « problème du mal », les mythologies se réinventent. Les géants de la tech d'aujourd'hui ne sont plus les intermédiaires d'un dieu bienveillant, mais les invocateurs de forces chaotiques.
Au lieu de dire « J'ai fait entrer le pays dans l'ère prospère du big data et tout va bien et est sous contrôle », ils disent « Nous sommes à l'aube de l'ère chaotique de l'IA générale et si vous voulez avoir une chance de contrôler cette chose, je suis notre meilleur atout ».
Cela sert à se dédouaner de toute responsabilité quant aux conséquences néfastes qui pourraient en découler, et je ne pense pas que ce soit un hasard. On retrouve beaucoup des mêmes personnes qu'en 2012. Elles ont tiré des leçons de leurs erreurs. On ne peut pas se permettre de paraître aussi compétent et aussi maître de la situation.
Cette fois, ce n'est pas nous qui sommes tout-puissants ; c'est l'ordinateur qui le sera (ou le deviendra), et nous ne pouvons que faire de notre mieux pour le contrôler. Et, je suis désolé, mais il se pourrait qu'il ne soit pas bienveillant. Peut-être que si. Espérons-le. Mais peut-être pas. De toute façon, ce ne sera pas de notre faute.
En 2012, notre discours était le suivant : nous avons trouvé comment exploiter le big data à des fins louables, ce qui, accessoirement, nous permettra de faire fortune. Nous sommes les artisans de cette transformation. Nous sommes responsables et fiers de notre travail. Souhaitez-vous vous joindre à nous dans cette mission ?
En 2025, l'IA commettra des actes destructeurs, qu'on le veuille ou non. Nous avons trouvé le moyen d'infléchir ce cours à notre avantage, afin de tirer profit de cette catastrophe inévitable. Souhaitez-vous vous joindre à nous dans cette mission ?