Bharath Ramsundar(@rbhar90)의 스레드

저는 오랫동안 LLM에 대해 비관적인 입장이었지만, 이제 LLM과 추론 도구들이 과학과 공학을 진정으로 혁신할 수 있는 단계에 이르렀다고 생각합니다. 이것이 인공 일반 지능(AGI)을 의미하는 것은 아니지만, 구글 검색이나 SAT 문제 해결 도구처럼 기존의 도구들을 일반화하여 더 넓은 영역에 적용하는 것과 같은 변화를 가져올 수 있을 것이라고 봅니다. 이로 인해 몇 가지 의문이 생깁니다. 코딩과 글쓰기 분야에서, 그 학문적 관행 자체가 완전히 변화하고 있는 것처럼 보입니다. 학생들이 AI를 사용하지 못하도록 통제하는 것은 어려워 보이지만, AI를 사용하는 것은 초보자의 이해와 성장을 저해할 수도 있습니다. 동시에 AI는 전문가에게는 강력한 시너지 효과를 가져다줄 것으로 보입니다. 학생들에게 이러한 상황을 어떻게 헤쳐나가야 하는지 묻는 질문을 많이 받았습니다. 제 생각에는 AI 없이 코딩과 글쓰기를 배우는 것이 최상의 결과를 얻는 데 가장 중요할 것 같습니다. 여기에 LLM 정신병과 같은 AI의 다른 위험도 더해 보겠습니다. 앞으로 이해하지도 못하는 분야에서 "획기적인 성과"를 냈다고 주장하는 초보자들이 훨씬 더 많아질 것입니다. 이는 자격증 중심주의로 회귀하는 결과를 초래할 수 있으므로 매우 안타까운 일입니다. 전문가들이 초보자들의 연구를 일일이 검토하기에는 하루 시간이 부족합니다. LLM 업계의 모델이 스스로 검증할 수 있을 만큼 정교해지기 전까지는 이러한 현상이 불가피할 것입니다. 이것이 과학이나 공학에 어떤 의미를 가질까요? 저는 비관론자일지도 모르지만, 특이점은 아직 오지 않았다고 생각합니다. 오히려 AI의 비효율성이 AI로 인한 이점을 거의 상쇄하여 미미한 성과만을 가져올 것이라고 봅니다. 제 개인적인 경험을 말씀드리자면, @deep_chem의 PR(풀 리퀘스트)에 대한 작업이 뜸해졌습니다. 학생들이 AI를 사용하려다 잘못된 코드를 제출하는 경우가 많기 때문입니다. 그래서 저는 검증된 기존 기여자의 코드만 병합하고 있습니다. AI는 코드 검토 부담을 가중시켜 발전을 저해하고 있습니다. 이는 제 경험담일 뿐이지만, 다른 곳에서도 비슷한 현상을 목격하고 있습니다. 하지만 전문가들은 AI를 활용하여 획기적인 발전을 이루어낼 것입니다. 효율성과 비효율성은 미묘한 균형 속에 놓이게 될 것입니다. 따라서 자동 검증 시스템 개발 문제는 인공지능 분야에서 가장 큰 과제가 되었습니다. 이는 길고 험난한 과정이 되겠지만, 진정한 혁신으로 가는 길은 바로 여기에 있다고 생각합니다. (마지막으로 덧붙이자면, 이 글은 인공지능을 전혀 사용하지 않았습니다! 인공지능을 피하면 브레인스토밍할 때 더 명확한 생각을 할 수 있습니다.)