AGI를 "인간이 할 수 있는 모든 경제적으로 가치 있는 작업을 자동화하는 것"으로 정의하는 것은 기능적으로는 투자자를 실망시키려는 AI 회사의 대변인이라면 현명한 정의일 수 있지만, 지적으로는 만족스럽지 못하고 부끄러운 일입니다.
표면적으로 볼 때, 인간 업무의 경제적 가치는 인간의 기술 습득 능력보다는 인간의 환경에 더 크게 좌우됩니다. 자동화는 인간 기여의 경제적 가치를 변화시킵니다. 인간의 손길은 점점 더 가치 있게 되기도 하고, 반대로 점점 더 약해지기도 합니다.
경제는 유지되는 반면 인간은 점차 기계로 대체될 것이라는 직관은 틀렸을 수 있습니다. AI 자동화는 경제적 가치라는 개념이 다른 것으로 대체되는 세상으로 이어질 수도 있습니다.
더 깊은 차원에서, 일반 지능은 경제적 가치 창출이 아니라, 더 근본적인 무언가, 즉 세상을 이해하고 모델링하여 통제하는 능력으로 이해되어야 합니다. 바로 우주를 정복하는 능력입니다. OpenAI는 그런 말을 하지 않을 것입니다.