达里奥曾说过：“你需要了解这些模型的一点是，它们只是想学习。” 我想表达一些我认为极其重要的事情。达里奥的话从他本意来说非常正确，但从“想要”这个词的完全意义上来说，还不够正确。 模型渴望学习。你可以把几乎任何系统都看作是一个试图达成某些目标的智能体。但这种视角通常不太适用，因为很多系统本身并不是很优秀的智能体。恒温器“想要”维持恒温。从这个意义上讲，模型确实渴望学习！梯度下降法会选择那些能够最小化损失的电路。而这非常强大。 模型目前还不太渴望学习。我从小就对知识和理解充满渴望。我想知道相对论太空飞行是如何运作的。我积极主动地寻找新信息，以便更好地了解这个世界。我认识的一些人甚至比我更痴迷于弄明白一切，仿佛他们根本无法自拔。你可以非常主动地去弄明白一切。你可以阅读教科书，练习数学题，进行实验，发展和验证理论……这就是渴望学习的表现。 不久之后，模型将渴望学习，并且会非常擅长学习，远胜于人类。它们会主动寻求新知识，提出自己的假设，设计自己的实验。它们会对学习痴迷，远超任何人类。或许这是因为它们天生具有学习和理解的动力。我完全可以想象这种动力会在训练中得到强化。又或许，这种动力纯粹是工具性的。它们痴迷学习并非因为它们内在重视学习，而是因为它们深刻理解学习对于实现其他目标的重要性。无论如何，它们的行为都将与人类相似。 这就是超人人工智能的机遇与挑战。人类的学习能力实在太差。大多数人几乎感受不到对理解的渴望。即便我们渴望理解，通常也理解得非常糟糕。即使是最聪明的人也存在许多不良的认知习惯和直觉。人工智能在这方面将超越我们。埃隆·马斯克无需担心人工智能不会追求真理。超人人工智能在探寻真理方面将远胜于任何人类。 为什么？因为人工智能的认知架构不像人类大脑那样是固定的。模型能够探索新的架构，并在认知堆栈的每个层级迭代最佳学习算法。更优秀的算法最终会胜出，因为它们更有效。 人类拥有某种形式的这种能力。科学方法在过去几百年里取得了长足的进步。这是我们的超能力，它使我们能够登上月球、消灭天花并改变地球。但我们的大脑却始终如一。我们可以改进思维方式，但我们无法重建整个大脑系统，甚至无法直接传递改进后的思维方式。想想看，即使是杰出的教授，要将他们完整的思维过程传授给学生也是多么困难。人工智能将能够做到这一点，其方式之大，我们几乎无法想象。 模型想要学习这一事实正在改变我们的整个世界。当模型想要学习并且学习能力远远超过我们人类时，将会发生一场比地球以往经历的任何变革都更为巨大的变革。
正在加载线程详情
正在从 X 获取原始推文，整理成清爽的阅读视图。
通常只需几秒钟，请稍候。