La definición de AGI como “automatizar todas las tareas económicamente valiosas que un ser humano puede realizar” es inteligente cuando uno es, en la práctica, un portavoz de una empresa de IA que intenta convencer a los inversores, pero intelectualmente es insatisfactoria y vergonzosa.
En apariencia, el valor económico de las tareas humanas depende más del entorno de la persona que de su capacidad para adquirir habilidades. La automatización modifica el valor económico de la contribución humana. El toque humano se volverá, a la vez, más y menos valioso.
La intuición de que los humanos serán reemplazados gradualmente por máquinas mientras la economía permanece intacta podría ser errónea. La automatización mediante IA incluso podría conducir a un mundo donde la noción de valor económico sea sustituida por algo más.
En un nivel más profundo, la inteligencia general no se entiende mejor como la generación de valor económico, sino como algo más fundamental: la capacidad de comprender el mundo y modelarlo, al servicio del control. Es la capacidad de conquistar el universo. OpenAI no te lo dirá.