来自@echen（Surge AI创始人）的主要观点： 1. 随着人工智能提升效率，我们很快就会看到人均市值达到1亿美元的公司。Surge公司在短短4年内，仅靠不到100名员工，完全依靠自有资金，就实现了10亿美元的营收。这将打破硅谷传统的风险投资模式。 2. 通用人工智能（AGI）的实现可能还需要十年甚至更久。完成任务的80%到90%与完成99.9%截然不同——每一次提升所需的时间都比前一次长得多。客观题比实际问题更容易优化。 3. 业界正在优化人工智能，使其追求“多巴胺而非真相”，从而延缓了通用人工智能（AGI）的实现。埃德温担心，我们正在构建的人工智能追求的是用户参与度，而不是人类的进步。像LMArena这样的热门排行榜奖励的是带有表情符号和格式的炫目回复，而非准确性，这迫使实验室优化一些肤浅的指标，反而使模型在实际任务中表现更差。 4. 创建高质量的人工智能训练数据需要一定的鉴赏力。任何人都能验证一首诗有八行，并且提到了月亮。难点在于如何找到那些能让你感到惊喜、触动心弦、并能让你对语言有全新理解的诗歌。这种主观而细致的“质量”定义，正是区分普通人工智能和卓越人工智能的关键所在。 5. 训练人工智能更像是养育孩子，而不是给照片贴标签。你不仅仅是在输入信息；你是在教它价值观、创造力，以及无数关于美和真理的微妙之处。正确的问题不是“我们希望人工智能通过什么测试？”，而是“我们想培养出什么样的个体？” 优化目标的选择——是用户参与度指标还是真正的人类发展——将影响后续的一切。 6. 人工智能基准测试排名经常被操纵，无法反映其在实际应用中的价值。Edwin 不信任基准测试的原因有二：一是它们经常包含错误答案；二是它们测试的是定义明确的问题，而现实世界纷繁复杂。这就解释了为什么有些模型能在国际数学奥林匹克竞赛中赢得金牌，却在解析 PDF 文件时举步维艰。实验室为了公关宣传，会针对这些基准测试进行优化，即使这会使他们的模型在实际任务中表现更差。 7. 人工智能训练的下一个前沿领域是强化学习环境，模型在其中通过实践来学习。这些环境是对真实世界场景的精细模拟——例如，一家初创公司拥有 Gmail、Slack、代码库和数据库，而 AWS 突然宕机。模型通过在这些环境中尝试完成任务并获得基于其完整过程（而不仅仅是最终答案）的奖励来学习。这模拟了人类在现实情境中通过反复试错来学习的过程。 8. 人工智能辅助存在一个隐性成本：精心制作却毫无意义的作品。花30分钟让人工智能反复修改一封邮件，而原稿其实已经很好了，这本身就是一个陷阱。更深层次的问题在于，人工智能应该最大化你与它互动的时间，还是应该帮助你完成任务并继续前进。最好的人工智能工具应该知道何时该说：“已经足够好了——直接发送吧。” 9. 打造一家成功的公司并不需要改变你自己。埃德温从未想过自己会创业，因为他认为自己必须成为“一个整天盯着财务报表的商人”。然而，他却把Surge打造成了一个研究实验室，亲力亲为地处理数据和分析。他的建议是：“你不需要变成另一个人。你只需要打造出足够优秀的产品，让它在众多噪音中脱颖而出，就能打造一家成功的公司。” 10. 硅谷的成功秘诀——不断转型、闪电扩张、追逐热点——并非通往成功的唯一途径。另一种选择是：找到一个你坚信的伟大构想，对其他一切都说“不”，即使困难重重也要坚持不懈地打造。追逐潮流（先是加密货币，然后是NFT，再是人工智能）只会造就缺乏连贯性和使命感的公司。你应该打造一些如果没有你独特的经验、兴趣和专业知识组合就根本不可能存在的东西。
正在加载线程详情
正在从 X 获取原始推文，整理成清爽的阅读视图。
通常只需几秒钟，请稍候。