Dwarkesh Patel(@dwarkesh_sp)의 스레드

특히 @karpathy에게 자율주행차가 훌륭한 시범 주행에서 어느 정도 상용화되기까지 10년 넘게 걸린 이유를 물어보고 싶었습니다. Andrej는 Tesla에서 5년간 AI를 이끌었습니다. 저는 이러한 마찰이 AGI 타임라인을 늘려야 하는지, 아니면 자율 주행에 특유한 것인지 정말 알고 싶었습니다. 운전은 실패로 인한 엄청난 비용을 수반합니다. 인간은 놀라울 정도로 신뢰할 수 있는 운전자입니다. 7년/40만 마일마다 심각한 사고가 발생합니다. 자율주행차는 실제 운행에 앞서 이러한 안전 기준을 충족하거나 뛰어넘어야 합니다. 하지만 대부분의 도메인이 이런가요? 인터뷰 전에는 AGI를 도입하려는 거의 모든 도메인이 실패 비용이 훨씬 낮을 것으로 생각했습니다. 완전 자율 소프트웨어 엔지니어가 7년 동안 실수를 하지 못하게 한다면 배포 속도가 엄청나게 느려질 것입니다. Andrej는 제가 전에 들어본 적 없는 흥미로운 지적을 했습니다. 자율주행과 비교했을 때 소프트웨어 엔지니어링은 실패 비용이 더 높고(잠재적으로 무한함) > 실제 프로덕션급 코드를 작성하는 경우, 어떤 실수든 보안 취약점으로 이어질 수 있습니다. 수억 명의 개인 사회보장번호가 유출될 수 있습니다. > 자율주행에서는 문제가 발생하면 부상을 입을 수도 있습니다. 더 나쁜 결과도 발생할 수 있습니다. 하지만 소프트웨어에서는 어떤 일이 얼마나 끔찍하게 일어날 수 있는지 거의 무한합니다. > 어떤 면에서 소프트웨어 엔지니어링은 자율주행보다 훨씬 어려운 문제입니다. 자율주행은 사람들이 하는 수천 가지 일 중 하나일 뿐입니다. 거의 하나의 수직적 영역과 같습니다. 반면, 일반적인 소프트웨어 엔지니어링에 대해서는 표면적인 영역이 더 넓습니다. LLM에서 광범위하게 구축된 AGI로의 전환이 훨씬 더 빠르게 진행될 수 있는 또 다른 이유가 있습니다. LLM은 우리에게 인식, 표현, 그리고 (유통되지 않는 사례를 처리하기 위한) 상식을 무료로 제공하지만, 자율주행차에서는 이러한 것들을 처음부터 새로 만들어야 했습니다. 저는 Andrej에게 이에 대해 물었습니다. > 우리가 얼마나 무료로 받는지 모르겠습니다. LLM은 여전히 ​​오류가 많고, 채워야 할 빈틈이 많습니다. 마법 같은 일반화를 바로바로 얻을 수 있다고 생각하지는 않습니다. > 제가 다시 언급하고 싶었던 또 다른 측면은 자율주행차가 아직 완성 단계에 이르지 못했다는 것입니다. 실제 적용 사례는 매우 미미합니다. Waymo조차도 보유한 차량이 매우 적습니다. 그들은 미래에 존재하는 무언가를 만들어냈습니다. 미래를 뒤로 미뤄야 했지만, 경제성이 없게 만들어야 했습니다. > 또한, 이 차들을 보면 운전하는 사람이 아무도 없다는 걸 알 수 있는데, 생각보다 사람이 개입하는 부분이 더 많습니다. 어떤 면에서는, 실제로 사람을 제거한 게 아니라 보이지 않는 곳으로 옮겨 놓은 것일 수도 있습니다.