如果你想了解AI未來是否會威脅人類,該如何建構追蹤訊號? Hjalmar在METR(一個AI安全研究機構)的工作重點是建立一個"預警儀表板",追蹤兩個前置能力: - 流氓複製能力:AI能否自主取得資源、維持自身存在,讓人類無法"直接關機" - AI研發自動化:AI能否自行研發AI,這會導致能力爆炸性成長 這兩個因素還挺有趣的,無法拔電+持續爆發成長這可能是威脅人類的必要條件…
正在加载线程详情
正在从 X 获取原始推文,整理成清爽的阅读视图。
通常只需几秒钟,请稍候。
正在加载线程详情
正在从 X 获取原始推文,整理成清爽的阅读视图。
通常只需几秒钟,请稍候。