Lenny Rachitsky(@lennysan)의 스레드

@echen(Surge AI 창립자)의 주요 내용: 1. AI가 모든 것을 더욱 효율적으로 만들면서 곧 직원 1인당 매출 1억 달러 규모의 기업이 등장할 것입니다. Surge는 단 4년 만에 100명 미만의 직원으로 10억 달러의 매출을 달성했습니다. 이는 전통적인 실리콘 밸리 벤처캐피털의 전략을 깨뜨릴 것입니다. 2. AGI는 10년 이상 걸릴 것으로 예상됩니다. 작업의 80%에서 90%로 이동하는 것은 99.9%에 도달하는 것과 매우 다릅니다. 각 단계마다 이전 단계보다 훨씬 더 오랜 시간이 걸립니다. 객관식 시험 문제는 실제 문제보다 최적화하기가 더 쉽습니다. 3. 업계는 "진실 대신 도파민"을 위해 AI를 최적화하고 있으며, 이로 인해 AGI(일반 인공지능)의 발전이 지연되고 있습니다. 에드윈은 우리가 인류의 발전보다는 참여를 추구하는 AI를 개발하고 있다고 우려합니다. LMArena와 같은 인기 순위표는 정확성보다는 이모티콘과 서식을 사용한 화려한 응답을 선호하며, 이로 인해 연구실은 피상적인 지표에 최적화할 수밖에 없고, 이는 실제 작업에서 모델의 성능을 저하시킵니다. 4. AI를 훈련시킬 고품질 데이터를 만드는 데는 취향이 필요합니다. 8행으로 이루어진 시에 달이 언급되어 있다는 것은 누구나 확인할 수 있습니다. 어려운 부분은 당신을 놀라게 하고, 감정을 자극하며, 언어에 대한 새로운 것을 가르쳐 주는 시를 찾아내는 것입니다. 이처럼 주관적이고 미묘한 품질 정의가 평범한 AI와 뛰어난 AI를 구분하는 기준입니다. 5. AI 훈련은 사진에 라벨을 붙이는 것보다 아이를 키우는 것과 같습니다. 단순히 정보를 제공하는 것이 아니라, 가치관, 창의성, 그리고 무언가를 아름답거나 진실되게 만드는 요소에 대한 수많은 미묘한 요소들을 가르치는 것입니다. 올바른 질문은 "AI가 어떤 시험을 통과하기를 바라는가?"가 아니라 "어떤 유형의 존재를 키우고 싶은가?"입니다. 참여 지표를 최적화할 것인지, 아니면 진정한 인간의 번영을 위해 최적화할 것인지를 선택하는 것이 이후의 모든 것을 결정합니다. 6. AI 벤치마크 순위는 종종 조작되며 실제 가치를 반영하지 않습니다. 에드윈은 두 가지 이유로 벤치마크를 신뢰하지 않습니다. 하나는 종종 잘못된 답을 포함하고 있고, 다른 하나는 복잡한 현실 세계와 달리 잘 정의된 문제를 테스트하기 때문입니다. 이는 모델이 국제 수학 올림피아드에서 금메달을 따도 PDF 분석에는 어려움을 겪는 이유를 설명합니다. 연구실에서는 홍보 목적으로 이러한 벤치마크를 최적화하는데, 이는 실제 작업에서 모델의 성능을 저하시키는 요인이 됩니다. 7. AI 학습의 다음 단계는 모델이 직접 학습하는 RL 환경입니다. 이는 Gmail, Slack, 코드 저장소, 데이터베이스를 사용하는 스타트업에서 AWS가 갑자기 다운되는 상황처럼 실제 상황에 대한 상세한 시뮬레이션입니다. 모델은 이러한 환경에서 작업을 시도하고 최종 답뿐만 아니라 전체적인 접근 방식에 따른 보상을 받으며 학습합니다. 이는 인간이 실제 상황에서 시행착오를 통해 학습하는 방식을 반영합니다. 8. AI 지원에는 숨겨진 비용이 있습니다. 바로 완벽하게 작성되었지만 중요하지 않은 작업입니다. 원본이 이미 괜찮은데도 AI에게 30분 동안 끝없는 수정을 통해 이메일을 완벽하게 만드는 것은 함정입니다. 더 근본적인 질문은 AI가 사용자의 시간을 최대한 활용해야 하는지, 아니면 작업을 완료하고 다음 단계로 넘어가도록 도와야 하는지입니다. 최고의 AI 도구라면 "이 정도면 충분하니 그냥 보내세요."라고 말할 때를 잘 알고 있을 것입니다. 9. 성공적인 회사를 만드는 데 당신의 본질을 바꿀 필요는 없습니다. 에드윈은 "하루 종일 재무제표만 보는 사업가"가 되어야 한다고 생각했기에 회사를 시작할 생각은 전혀 하지 못했습니다. 대신, 그는 Surge를 마치 연구소처럼 만들어 데이터와 분석에 직접 참여했습니다. 그의 조언은 이렇습니다. "본인이 아닌 다른 사람이 될 필요는 없습니다. 모든 소음을 뚫고 나올 만큼 훌륭한 것을 만들어내는 것만으로도 성공적인 회사를 만들 수 있습니다." 10. 실리콘 밸리의 전략, 즉 끊임없이 방향을 전환하고, 블리츠스케일링하고, 과대광고를 쫓는 것만이 성공의 유일한 길은 아닙니다. 대안은 다음과 같습니다. 자신이 믿는 큰 아이디어 하나를 찾고, 다른 모든 것에는 반대하며, 어렵더라도 계속해서 발전해 나가는 것입니다. 트렌드(암호화폐, NFT, AI)를 좇는 것은 일관성이나 사명감이 없는 회사를 만듭니다. 자신만의 경험, 관심사, 그리고 전문성이 없었다면 존재하지 않았을 무언가를 만들어 보세요.