카르파티는 최근 성명을 발표했습니다. AI는 본질적으로 "소프트웨어 2.0"이며, 작업이나 직업이 쉽게 자동화될 수 있는지 여부를 판단하는 핵심 지표는 "검증 가능성"입니다. 카르파티는 AI를 단순히 "전기"나 "산업 혁명"과 같은 거시적 역사적 사건에 비유하는 것이 아니라, 더 정확한 비유를 제시합니다. AI는 본질적으로 "소프트웨어 2.0"입니다. AI는 더 이상 인간이 고정된 규칙을 수동으로 작성하는 "소프트웨어 1.0"이 아닙니다. 대신, AI는 지정된 목표(예: 분류 정확도 또는 보상 함수)를 기반으로 경사하강법과 같은 알고리즘을 사용하여 광대한 매개변수 공간 내에서 효율적인 신경망을 자동으로 "검색"함으로써 디지털 정보 처리를 자동화합니다. 자동화된 작업을 위한 "예측 지표"의 변화 카르파티는 1980년대 컴퓨팅 시대와 유사점을 보인다. 당시 컴퓨터로 가장 쉽게 대체될 수 있었던 직업은 타이핑, 회계, 수작업 계산처럼 고정된 알고리즘과 명확한 규칙을 가진 직업들이었다. 이러한 작업들은 "쉽게 구체화"될 수 있다는 특징을 공유했다. 즉, 인간은 정확한 지침을 단계별로 작성할 수 있었다. 오늘날 AI의 "소프트웨어 2.0" 시대에, 어떤 작업이나 직업이 쉽게 자동화될 수 있는지 판단하는 핵심 지표는 "검증 가능성"입니다. 구체적으로는 다음과 같습니다. • 검증 가능한 작업: 객관적인 기준을 사용하여 결과를 신속하게 평가하고 대응할 수 있습니다. 예를 들어 수학 문제, 코딩, 비디오 시청 시간 분석 또는 이와 유사한 "퍼즐" 문제가 있습니다. 이러한 작업은 강화 학습에 적합합니다. AI는 재설정 가능한 환경에서 반복적으로 "연습"하여 효율적으로 많은 시도를 생성하고 성공 사례를 자동으로 보상할 수 있습니다. 결과적으로 AI는 최고의 인간 전문가의 속도와 정확도를 능가할 수 있습니다. • 검증 불가능한 과제: 창의성, 전략적 의사 결정이 요구되거나, 실제 지식, 맥락, 그리고 상식(예: 예술적 창작이나 복잡한 협상)을 통합해야 하는 과제입니다. 이러한 과제는 신뢰할 수 있는 "보상 함수"를 구축하기 어렵게 만들어 AI가 일반화 "마법"에 의존하거나 인간을 모방하도록 강요합니다. 이로 인해 LLM의 발전 속도가 느려지고 "지그재그 경계"에 서게 됩니다. 즉, 어떤 영역에서는 빠르게 발전하지만 다른 영역에서는 뒤처지는 현상을 말합니다. AI의 경제적 및 고용적 영향은 AI가 "톱니파" 효과를 갖는 이유를 설명합니다. 검증 가능한 직업(예: 프로그래밍 및 데이터 분석)은 더 빠르게 자동화되어 관련 직종이 감소할 가능성이 있고, 검증 불가능한 분야(예: 인간의 판단이 필요한 전략 컨설팅)는 단기적으로 인간에게 의존하여 완충 역할을 할 것입니다. 그러나 카르파티는 장기적으로 시뮬레이터나 전문가 검증 도구와 같은 검증 도구가 발전함에 따라 더 많은 작업이 AI의 통제 하에 놓이게 될 것이라고 주장합니다. "소프트웨어 1.0"은 지정할 수 있는 항목을 쉽게 자동화하고, "소프트웨어 2.0"은 검증할 수 있는 항목을 쉽게 자동화합니다!
