宝玉(@dotey)의 스레드

샘 알탐이 어제 라이브 스트리밍을 직접 해석한 내용입니다. 어제 라이브 스트리밍을 진행했습니다. 놓치신 분들을 위해 요약을 공유합니다. 우리는 일련의 내부 목표를 설정했습니다. 2026년 9월까지 수십만 개의 GPU를 실행할 수 있는 "AI 연구 인턴"을 만들고, 2028년 3월까지는 진정한 "자동화 AI 연구원"을 만들고 싶습니다. 이 목표를 달성하지 못할 수도 있지만, 우리는 여전히 목소리를 내야 합니다. 왜일까요? 이 문제가 (성공한다면) 미칠 영향이 너무나 크기 때문입니다. 그리고 우리는 대중에 대한 책임감 때문에 투명성을 유지해야 한다고 생각합니다. AI가 "잘못된 방향으로 나아가지" 않도록 하기 위해 우리는 "5중 보호망"을 설계했습니다. 1. 가치 정렬(AI의 옳고 그름에 대한 감각이 인간의 감각과 일치하도록 보장) 2. 목표 정렬(AI가 하려는 일이 우리가 원하는 일인지 확인) 3. 신뢰성(다양한 조건에서 AI가 안정적으로 기능하도록 보장) 4. 적대적 견고성(AI가 악의적으로 "중독"되거나 속지 않도록 보장) 5. 시스템 보안(AI 시스템 전체가 안전하고 해커의 악용을 방지) 특히 "사고 연쇄 충실도(Chain-of-thought faithfulness)"라는 도구에 큰 기대를 걸고 있습니다. 이 도구는 AI가 정답을 제시할 뿐만 아니라 어떻게 그러한 결론에 도달했는지까지 솔직하게 말해줍니다. 하지만 이 도구는 여전히 "취약"(충돌이나 실패가 잦음)하며, 명확하게 정의된 경계와 추상화가 필요합니다. 제품 측면에서, 저희는 진정한 "플랫폼"으로 거듭나기 위해 노력하고 있습니다. 미래에는 대부분의 가치가 저희 기술(예: API 또는 ChatGPT 내 애플리케이션)을 개발하는 사람과 기업에 의해 창출될 것으로 예상합니다. 저희의 궁극적인 목표는 거대 기업을 육성할 수 있는 "AI 클라우드"를 제공하는 것입니다. 현재 우리는 약 30기가와트(GW)의 컴퓨팅 파워를 투자했습니다. (1GW는 대형 원자력 발전소 1기의 전력과 거의 같습니다.) 향후 몇 년간 총소유비용(TCO)은 약 1조 4천억 달러에 달할 것으로 예상됩니다. 그렇게 많은 돈을 투자하는 것에 자신감이 있을까요? 네. 모델 역량과 매출 성장에 대한 유망한 전망을 보고 있기 때문입니다. 심지어 "더 크게 나아가고" 싶습니다. 현재보다 훨씬 저렴한 비용으로 매주 1기가와트의 새로운 컴퓨팅 파워를 "생산"할 수 있는 "AI 공장"을 건설하고 싶습니다. 하지만 이러한 "도약"을 이루기 위해서는 미래 모델, 매출, 그리고 기술 및 재무 혁신에 대한 더 큰 확신이 필요합니다. 새로운 구조(회사 구조를 지칭)는 이전 구조보다 훨씬 단순합니다. 이제 다음과 같습니다. OpenAI 재단이라는 비영리 단체가 있으며, 이 재단은 OpenAI 그룹이라는 공익법인(PBC)을 운영합니다. 재단은 초기에 그룹의 지분 26%를 보유하지만, 그룹(PBC)이 탁월한 성과를 거두면 워런트를 통해 지분을 늘릴 수 있습니다. 이 공익법인(PBC)의 목적은 일반 회사와 마찬가지로 사명 달성에 필요한 막대한 자원을 (자금 조달 등을 통해) 유치하는 것입니다. 비영리 재단이든 공익 기업이든, 우리의 사명은 변함없이 동일합니다. 바로 인공 일반 지능(AGI)이 인류 전체에게 이롭게 되도록 하는 것입니다. 이 비영리 재단(OpenAI Foundation을 말함)은 초기 단계에서 250억 달러를 기부했으며, 두 가지 주요 분야에 집중했습니다. 하나는 건강과 질병 퇴치이고, 다른 하나는 "AI 회복력"(기술 보안뿐만 아니라 경제적 영향, 사이버 보안 등에 대한 연구를 포함하여 사회가 "AGI 이후 시대"로 원활하게 전환하는 데 도움이 되는 모든 것을 지칭하는 다소 새로운 용어)입니다. 게다가 이전과 달리 이 비영리 재단은 이제 정말 빠르게 "자금을 뿌릴"(자금을 배치한다는 의미) 수 있게 됐습니다. 우리는 2026년까지 AI 시스템이 몇 가지 '작은' 새로운 발견을 할 수 있을 것으로 예상하고, 2028년까지는 '큰' 발견을 목격하게 될 것으로 기대합니다. 이는 결코 사소한 문제가 아닙니다. 우리는 과학과 과학적 연구 결과를 널리 전파하여 모두가 혜택을 누릴 수 있도록 하는 메커니즘이 인간 삶의 질을 지속적으로 향상시키는 궁극적인 열쇠라고 굳게 믿기 때문입니다.