Sriram Krishnan(@sriramk)의 스레드

저는 이 기술이 향하는 방향을 표현하는 용어로 "AGI"와 "ASI"에 대해 엇갈린 감정을 갖게 되었습니다. 한편, AGI는 이 문제에 집착하는 재능 있는 사람들(@demishassabis, @ShaneLegg, @ilyasut 등)에게 동기를 부여하는 데 중요한 역할을 했으며, 우리의 많은 발전을 가능하게 한 자본의 흐름을 가능하게 했습니다. 반면에 "AGI"나 "ASI" 또는 그 변형은 현재 우리 삶에서 가장 흥미로운 기술이 어떻게 만들어지고 사용되는지에 대한 담론을 적극적으로 해치고 있습니다. a) 이는 우리가 향하는 방향을 정확하게 설명하는 것이 아닙니다. 적어도 대부분의 사람들이 이 용어를 해석하는 방식에서는 그렇습니다. @karpathy와 @dwarkesh_sp와의 최근 대화를 보면 진정한 인간 지능과 얼마나 거리가 있는지 바로 알 수 있습니다. 이륙에 대한 증거는 없고, 타임라인은 계속 확장되고 있습니다. 우리는 기업의 업무 방식이나 기술 구축 방식을 혁신할 수 있는 매우 유용한 기술을 개발하고 있지만, "일반 지능"과는 아무런 관련이 없습니다. b) 너무 복잡해져서 두 사람이 같은 방식으로 정의하거나 타임라인(이미 도달했든 30년 후든)에 동의하는 경우는 거의 없습니다. 그래서 AGI에 대한 모든 블로그 게시물은 진행하기 위해 자체적인 지역적 정의를 떠올려야 합니다. 저는 "지능"이라는 용어가 항상 거의 일관성 없는 방식으로 사용되는 이유에 대한 @random_walker의 견해에 대체로 동의합니다. c) 가장 중요한 점은, 공포를 불러일으킨다는 것입니다. 이는 SF와 철학에서 역사적으로 사용되었던 방식(2001, Her 등 특이점을 연상시키는 모든 것)과 관련이 있는데, 우리가 현재 살고 있는 기술 체계와는 아무런 관련이 없습니다. 모든 AI 논의를 의인화하고 가정적인 이야기로 치우치기가 매우 쉽습니다. 이 모든 것의 끝에서 우리가 무엇을 구축하려고 하는지, 그리고 그것이 기업과 사회에 어떤 의미를 갖는지에 대해 다른 용어가 필요할 수도 있습니다.