将通用人工智能 (AGI) 定义为“自动化所有人类可以完成的具有经济价值的任务”,如果你是一家人工智能公司的发言人,试图以此来吸引投资者,那么这个定义或许很巧妙;但从理论上讲,它既不令人满意,又令人羞愧。
从表面上看,人类工作的经济价值更多地取决于人所处的环境,而非人的技能习得能力。自动化改变了人类贡献的经济价值。人手操作的价值将既增加又减少。
认为人类会逐渐被机器取代而经济依然存在的直觉可能是错误的。人工智能自动化甚至可能导致一个经济价值概念被其他东西取代的世界。
从更深层次上看,通用智能的最佳理解并非在于创造经济价值,而在于其更为根本性的能力:理解世界并对其进行建模,从而实现控制。它拥有征服宇宙的能力。OpenAI 不会告诉你这一点。