A definição de AGI como "automatizar todas as tarefas economicamente valiosas que um ser humano pode realizar" é inteligente quando se é, na prática, um porta-voz de uma empresa de IA tentando conquistar investidores, mas intelectualmente é insatisfatória e vergonhosa.
Em um nível superficial, o valor econômico das tarefas humanas depende mais do ambiente em que o ser humano trabalha do que de sua capacidade de adquirir habilidades. A automação altera o valor econômico da contribuição humana. O toque da mão humana se tornará, ao mesmo tempo, mais e menos valioso.
A intuição de que os humanos serão gradualmente substituídos por máquinas enquanto a economia permanece pode ser falha. A automação por IA pode até mesmo levar a um mundo onde a noção de valor econômico seja substituída por outra coisa.
Em um nível mais profundo, a inteligência geral não é melhor compreendida como geração de valor econômico, mas como algo mais fundamental: a capacidade de dar sentido ao mundo e modelá-lo, a serviço do controle. É a capacidade de conquistar o universo. A OpenAI não lhe dirá isso.