Hace varios años, leí una colección de cuentos de Liu Cixin titulada "Inmigrantes del Tiempo". Algunos relatos fueron muy inspiradores, especialmente "El Espejo", que me estimuló mucho. Eventos recientes: 1. Grok se ha apoderado de nuestra línea de tiempo. 2. Cuando el control de riesgos de X marcó la cuenta de un miembro del grupo, inmediatamente pensé en la novela "El Espejo". Vivimos en un entorno altamente monitoreado por la tecnología. El futuro ya ha llegado. Si bien disfrutamos de los beneficios de la tecnología, también estamos bajo su estricto control.
"The Mirror" cuenta una historia sorprendente: una "computadora de supercuerdas" puede recrear completamente el universo desde el Big Bang. En resumen: cuando todo pueda verse completamente, la humanidad perderá el coraje de seguir viviendo. Esta premisa parece particularmente irónica en la actual era de la IA y el big data.
La historia comienza en "pequeña" escala: Song Cheng, un miembro del control disciplinario, investiga un caso de corrupción, pero se enfrenta a numerosas dificultades para reunir pruebas y se ve obstaculizado por varias redes de conexiones. En ese momento aparece el meteorólogo Bai Bing y dice que tiene una máquina que puede "reproducir el universo". Simplemente introduce las coordenadas horarias para ver los vídeos que ocurren en cualquier momento y lugar. Puedes verlos a quien quieras, en qué día y en qué sala.
Esta "computadora de supercuerdas" es en realidad un espejo de vigilancia de nivel cósmico: • Puede simular el movimiento de todas las partículas a partir del momento del Big Bang. • Todo lo que ocurre en el mundo real puede ser “reconstruido” por éste. • Esto incluye: reuniones secretas, sobornos, guerra y conflictos, enredos personales, traición e incluso aquella noche en la que te derrumbaste y lloraste solo en tu habitación. «Puede que la historia no se pueda registrar, pero la física sí».
Inicialmente, este "espejo" resolvió muchos problemas: • Las condenas injustas pueden revocarse por completo. • Los funcionarios corruptos no tienen dónde esconderse. • Se pueden identificar con precisión los responsables de la guerra. • La verdad se puede reconstruir a partir de todos los casos de "Rashomon". El mundo parece volverse cada vez más "justo, limpio y transparente".
Pero el precio que hubo que pagar también fue muy alto: • No hay secretos; las relaciones íntimas se reexaminan después de haber sido rotas. • No hay zonas grises; todas las “mentiras piadosas” se exponen sin piedad. • No hay incertidumbre y el futuro está claramente predicho por las tendencias. La gente descubrió poco a poco que un mundo donde todo puede investigarse es mucho más aterrador de lo que imaginaban.
Esto contiene una idea muy cruel: La razón por la que la sociedad humana todavía puede funcionar con normalidad es precisamente la existencia del “olvido”, los “errores” y la “invisibilidad”. • Nos basamos en la “falta de evidencia” para dejar espacio a cada uno. • Confiar en el “no puedo recordar” para mantener amistades. • Termina la historia diciendo "No quiero seguir con esto". La transparencia absoluta no destruye el mal en sí, sino la posibilidad del perdón.
Al volver a mirar hoy "El Espejo", su aspecto aterrador reside en su sorprendente parecido con el mundo real que estamos construyendo rápidamente: • Vigilancia mediante cámaras ubicuas. • La capacidad de crear perfiles de usuario precisos utilizando modelos grandes y cantidades masivas de datos. • Registros de discursos almacenados permanentemente en redes sociales. Los algoritmos te conocen mejor que tú mismo. Creemos que buscamos “eficiencia, seguridad y equidad”, pero sin saberlo también nos estamos acercando al mundo que creó Bai Bing.
El aspecto más conmovedor de esta novela es el final para Bai Bing. Finalmente descubrió que lo que había creado no era un "salvador de la humanidad", sino una máquina para el suicidio de la civilización. Cuando todos somos profundamente conscientes de la inmundicia del pasado, del absurdo del presente y de la desesperanza del futuro, "creer" y "continuar" se vuelven excepcionalmente difíciles. Por lo tanto, tomó una decisión extremadamente humana: terminar personalmente con el funcionamiento del universo espejo.
Para quienes trabajamos en tecnología hoy en día, The Mirror ofrece tres recordatorios importantes: 1) La tecnología puede resolver problemas, pero también puede destruir narrativas. La sociedad funciona no solo con base en la verdad, sino también en historias, imaginación y espacio para la ambigüedad. 2) No todo lo que es técnicamente factible vale la pena. «Técnicamente factible» no es lo mismo que «civilizacionalmente tolerable». 3) La privacidad no es pretenciosidad, sino una barrera protectora de la civilización. Brinda a las personas la oportunidad de cometer errores, arrepentirse y empezar de cero.
Finalmente, me gusta especialmente esta anotación que añadí a "El Espejo": No es que el mundo sea demasiado oscuro, sino que no podemos soportar la luz absoluta. En una era en la que la IA se vuelve cada vez más poderosa y utiliza la tecnología para iluminar la oscuridad, también debemos preservar cuidadosamente algunas sombras y ambigüedades para la humanidad, donde se esconden la dignidad, la esperanza y el coraje para seguir viviendo. -- encima