Il y a quelques années, j'ai lu un recueil de nouvelles de Liu Cixin intitulé « Les Émigrants du temps ». Certaines de ces nouvelles étaient très inspirantes, notamment « Le Miroir », qui m'a beaucoup stimulé. Événements récents : 1. Grok a pris le contrôle de notre chronologie. 2. Lorsque le compte d'un membre du groupe a été signalé par le système de contrôle des risques de X, j'ai immédiatement pensé au roman « Le Miroir ». Nous vivons dans un monde où la technologie nous surveille de près. Le futur est bel et bien là. Si nous profitons de ses avantages, nous sommes aussi étroitement contrôlés par elle.
« Le Miroir » raconte une histoire incroyable : un « superordinateur à cordes » peut recréer intégralement l'univers depuis le Big Bang. En résumé : lorsque tout sera parfaitement visible, l'humanité perdra le courage de continuer à vivre. Cette prémisse semble particulièrement ironique à l'ère actuelle de l'IA et du big data.
L'histoire commence à petite échelle : Song Cheng, un cadre d'inspection disciplinaire, enquête sur une affaire de corruption, mais il rencontre de nombreuses difficultés pour rassembler des preuves et est entravé par divers réseaux de relations. À ce moment-là, le météorologue Bai Bing apparaît et déclare posséder une machine capable de « rejouer l'univers ». Il vous suffit de saisir les coordonnées horaires pour visionner des « vidéos » enregistrées à n'importe quel moment et n'importe quel endroit. Vous pouvez regarder qui vous voulez, quel jour et dans quelle pièce.
Cet « superordinateur à cordes » est en réalité un miroir de surveillance à l'échelle cosmique : • Il peut simuler le mouvement de toutes les particules à partir du moment du Big Bang. • Tout ce qui se passe dans le monde réel peut être « reconstruit » par celui-ci. Cela inclut : les réunions secrètes, la corruption, la guerre et les conflits, les liaisons personnelles, la trahison, et même cette nuit où vous avez craqué et pleuré seul dans votre chambre. « L’histoire ne peut peut-être pas être consignée par écrit, mais la physique, elle, le peut. »
Au départ, ce « miroir » a résolu de nombreux problèmes : • Les condamnations injustifiées peuvent être totalement annulées. • Les fonctionnaires corrompus n'ont nulle part où se cacher. • Les responsables de la guerre peuvent être identifiés avec précision. • La vérité peut être reconstituée à partir de tous les cas « Rashomon ». Le monde semble devenir de plus en plus « juste, propre et transparent ».
Mais le prix à payer fut lui aussi très lourd : • Il n’y a pas de secrets ; les relations intimes sont réexaminées après avoir été déchirées. • Il n’y a pas de zone grise ; tous les « petits mensonges » sont impitoyablement exposés. • Il n’y a aucune incertitude, et l’avenir est clairement prédit par les tendances. Peu à peu, les gens ont découvert qu'un monde où tout peut être examiné est bien plus terrifiant qu'ils ne l'imaginaient.
Cela recèle une idée très cruelle : La raison pour laquelle la société humaine peut encore fonctionner normalement tient précisément à l'existence de « l'oubli », des « erreurs » et de « l'invisibilité ». • Nous nous appuyons sur le « manque de preuves » pour nous laisser de la place les uns aux autres. • S’appuyer sur le prétexte du « je ne me souviens pas » pour entretenir des amitiés. • Concluez l'histoire en disant : « Je ne veux plus poursuivre cette affaire ». La transparence absolue ne détruit pas le mal en soi, mais plutôt la possibilité du pardon.
En regardant à nouveau « Le Miroir » aujourd'hui, son aspect terrifiant réside dans sa ressemblance frappante avec le monde réel que nous construisons rapidement : • Surveillance par caméra omniprésente. • La capacité de créer des profils d'utilisateurs précis à l'aide de modèles complexes et d'énormes quantités de données. • Enregistrements permanents des discours sur les réseaux sociaux. Les algorithmes vous connaissent mieux que vous-même. Nous pensons poursuivre « l’efficacité, la sécurité et l’équité », mais nous nous rapprochons aussi, sans le savoir, du monde créé par Bai Bing.
L'aspect le plus poignant de ce roman est la fin réservée à Bai Bing. Il finit par découvrir que ce qu'il avait créé n'était pas un « sauveur de l'humanité », mais une machine à suicider la civilisation. Lorsque chacun prend pleinement conscience de la souillure du passé, de l'absurdité du présent et du désespoir de l'avenir, « croire » et « continuer » deviennent exceptionnellement difficiles. Il a donc fait un choix extrêmement humain : mettre personnellement fin au fonctionnement de l'univers miroir.
Pour ceux d'entre nous qui travaillons aujourd'hui dans le secteur technologique, The Mirror nous offre trois rappels importants : 1) La technologie peut résoudre des problèmes, mais elle peut aussi détruire des récits. La société ne fonctionne pas seulement sur la vérité, mais aussi sur les histoires, l'imagination et une place pour l'ambiguïté. 2) Tout ce qui est techniquement faisable ne mérite pas forcément d'être fait. « Techniquement faisable » ne signifie pas « acceptable pour la civilisation ». 3) La vie privée n'est pas de la prétention, mais plutôt une barrière protectrice contre les injustices de la civilisation. Elle offre aux individus la possibilité de se tromper, de se repentir et de recommencer.
Enfin, j'aime particulièrement cette annotation que j'ai ajoutée à « Le Miroir » : Ce n'est pas que le monde soit trop sombre, mais que nous ne supportons pas la lumière absolue. À une époque où l'IA devient de plus en plus puissante, tout en utilisant la technologie pour éclairer les ténèbres, nous devons aussi préserver avec soin certaines zones d'ombre et certaines ambiguïtés pour l'humanité — là où se cachent la dignité, l'espoir et le courage de continuer à vivre. -- sur