Yangyi(@Yangyixxxx)의 스레드

미래에 AI가 인류를 위협하게 될지 알고 싶다면, 어떻게 추적 신호를 구축해야 할까요? METR(AI 보안 연구 기관)에서 Hjalmar는 두 가지 전방 역량을 추적하는 "조기 경보 대시보드"를 구축하는 데 중점을 두고 있습니다. - 악성 복제 기능: AI가 자율적으로 자원을 획득하고 자체 존재를 유지할 수 있어 인간이 "단순히 종료"하는 것이 불가능할까요? - 자동화된 AI 연구개발: AI가 스스로 AI를 개발하여 역량이 폭발적으로 성장할 수 있을까? 이 두 가지 요인은 매우 흥미롭습니다. 전원을 뽑을 수 없다는 점과 폭발적인 성장이 계속되는 것은 인류를 위협하는 데 필요한 조건일 수 있습니다...