Esto es lo que pienso al respecto. A principios de la década de 2010, la tecnología se posicionó activamente como benévola y omnisciente, y la prensa especializada se sumó a esta imagen. El algoritmo de Netflix te conocía mejor que tú mismo, Stitchfix utilizaba la mecánica cuántica para crear tu atuendo perfecto, y así sucesivamente.
Target supo que una chica estaba embarazada antes que sus padres, y esto se interpretó como algo positivo, aunque un tanto inquietante. El Big Data se utilizaba para crear un pequeño mundo perfecto para cada persona gracias a la personalización y los sistemas de recomendación.
Todo esto coincidió con auténticos milagros tecnológicos y cambios sociales, siendo las redes sociales y los teléfonos inteligentes los dos más importantes. Tecnologías nunca antes vistas hicieron que el mito de la omnipotencia pareciera muy plausible.
Y los actores más importantes se apoyaron fuertemente en el aspecto de benevolencia de la mitología, conectando el mundo, democratizando, no siendo malvados y demás.
Pero cuando se es omnisciente, omnipotente y benevolente, se está sujeto al problema del mal, y eso fue precisamente lo que ocurrió. La gente se indignó cada vez más de que un ser todopoderoso permitiera que sucedieran cosas malas.
Y resulta curioso que la presunción que la gente estaba más dispuesta a abandonar fuera la de la benevolencia. Era mucho más creíble que las grandes tecnológicas utilizaran su omnipotencia para fines nefastos a que, en realidad, no la tuvieran.
Así pues, creo que en la década de 2020, para evitar caer en la trampa del Problema del Mal, las mitologías se están elaborando de forma algo distinta. Los grandes líderes tecnológicos de hoy no son intermediarios de un dios benevolente, sino invocadores de demonios caóticos.
En lugar de decir “Hemos traído al mundo próspero del big data y todo está bien y bajo control”, están diciendo “estamos al borde de la era caótica de la IAG y si quieren tener alguna posibilidad de controlar esto, soy nuestra mejor opción”.
Esto sirve para eximirse de responsabilidad por cualquier consecuencia negativa que pudiera derivarse, y no creo que sea pura casualidad. Se trata de muchas de las mismas personas de 2012. Han aprendido la lección. No se puede aparentar tanta competencia ni tanto control de la situación.
Esta vez no somos nosotros quienes tenemos el poder absoluto; es la computadora la que (será) todopoderosa, y solo podemos hacer lo posible por controlarla. Y, lo siento, pero puede que no sea benévola. Quizás sí. Ojalá. Pero quizás no. En cualquier caso, no será culpa nuestra.
En 2012, la historia era: hemos descubierto cómo usar el big data para tal o cual fin benévolo, lo que, por cierto, nos permitirá imprimir dinero. Somos los artífices. Somos responsables y estamos orgullosos de nuestro trabajo. ¿Te gustaría unirte a nosotros en esta misión?
En 2025: la IA cometerá actos destructivos, nos guste o no. Hemos encontrado la forma de sacar provecho de esta situación para poder obtener algún beneficio de este desastre inevitable. ¿Te gustaría unirte a nosotros en esta misión?