Dwarkesh Patel(@dwarkesh_sp)의 스레드

짧은 일정을 가진 사람들은 모델이 기본적이고 경제적으로 유용한 작업을 처음부터 끝까지 수행할 수 없다는 사실을 무시하며 "그런 일을 특별히 하도록 모델을 훈련시키지 않았잖아요."라고 말하곤 합니다. 하지만 이는 핵심을 놓치고 있습니다. 인간 근로자가 소중한 이유는 바로 그들이 하는 모든 작은 작업마다 맞춤형의 엉성한 훈련 루프를 만들 필요가 없기 때문입니다. 매일 여러분은 판단력, 상황 인식 능력, 그리고 실무에서 습득한 기술과 맥락을 필요로 하는 수많은 일을 해야 합니다. 이러한 업무는 사람마다 다를 뿐만 아니라, 같은 사람이라도 매일 다릅니다. 미리 정의된 기술 집합을 도입하는 것만으로는 단 하나의 작업도 자동화할 수 없는데, 모든 작업을 자동화하는 것은 더욱 불가능합니다. 사람들은 가끔 "지금까지 마을 바보와 AGI 사이에 얼마나 진전이 있었나?"라고 논쟁하곤 합니다. 그런데 저는 그냥, 도대체 무슨 소리 하는 거지? 모델들이 지금 마을 바보보다 훨씬 멍청하잖아. 마을 바보들은 연간 수조 달러의 임금을 벌어들이는데, 이 모델들은 연간 300억 달러의 수익을 창출해내죠. 사실, 사람들은 실제 AGI가 얼마나 큰 의미를 가질지 과소평가하고 있다고 생각합니다. 그들은 단지 현재의 체제를 더 많이 상상하고 있을 뿐이기 때문입니다. 그들은 서버에 있는 수십억 개의 인간과 유사한 지능이 모든 학습 내용을 복사하고 병합할 수 있다고 생각하지 않습니다. 그리고 분명히 말씀드리자면, 저는 이 기술(즉, 실제 AGI)이 앞으로 10년이나 20년 안에 나올 거라고 예상합니다. 정말 미친 짓이죠!