Taelin(@VictorTaelin)의 스레드

AGI가 아주 멀리 있다고 믿는 사람들은 아마도 다음과 같은 관점에서 생각하고 있을 것입니다. "LLM이 AGI로 확장될까요?" 오히려 "인류는 AGI에 더 가까워졌는가?" 마치 그들이 다가올 획기적인 발전을 완전히 잊고 있는 것처럼, 그리고 기존 도구들이 이러한 획기적인 발전의 속도를 어떻게 가속화하는지에 대해서는 전혀 생각하지 않는 것처럼 보입니다. 그들은 GPT-3, GPT-4, GPT-5를 보면서 "GPT-7이 AGI가 될까?"라는 그림을 떠올립니다. 그러다가 "아니, 당연히 그렇지 않을 거야."라는 것을 깨닫습니다. 그리고 AGI는 수년 후에나 가능할 것이라고 예측합니다. 제 기억이 맞다면, Karpathy가 NanoGPT를 구현하는 데 약 1년이 걸렸습니다. 이제 이 프롬프트를 통과할 수 있는 모델을 상상해 보세요. "일반 C 언어로 GPT-2의 작동 복제본을 작성하세요. 단, 다음과 같은 내용이 포함되어야 합니다." 그러한 것이 존재하고 널리 보급되는 순간, LLM은 종말을 맞이하게 될 것입니다. 우리는 즉시 이 시대와 다음 시대 사이의 전환기에 돌입하게 될 것입니다. 전 세계 연구실에서 초고속 연구와 실험을 수행하고, 새로운 시스템을 시도하며, 지능의 본질에 대해 추론하게 될 것이기 때문입니다. 그리고 그 결과는 진정한 범용 지능 시스템이 될 것입니다. 솔직히 말해서, 많은 사람들, 특히 주요 AI 연구실에서 일하는 사람들은 이 소식에 깜짝 놀랄 거라고 생각합니다. LLM 곡선에 익숙해지고 있으니까요. 그들은 LLM 곡선이 바로 지능 곡선이라고 생각하지만, 사실은 그렇지 않습니다. 지능의 기하급수적 발전은 단계적 혁신에 의해 주도되었습니다. 생명에서 시작하여 박테리아, 어류, 공룡, 인간, 불, 농업, 문자, 수학, 인쇄기, 증기 기관, 전자공학, 컴퓨터, 인터넷, 그리고 이제는 법학 석사(LLM)를 거쳐 왔습니다. 각각의 기술은 다음 기술로의 발전을 가속화했습니다. LLM이 마지막 기술은 아니지만, 마지막 기술 이전의 기술입니다. "2026년 말쯤 AGI가 나온다"라고 말할 때, 저는 GPT-7을 말하는 게 아닙니다. GPT-6에 접근할 수 있는 팀이 구현할 XYZ-1을 말하는 겁니다.