Yangyi(@Yangyixxxx)의 스레드

AI의 능력이 인간을 훨씬 능가하고, 인간 노동의 가치가 0에 가까워지거나 심지어 마이너스가 된다면(인간의 실수로 인해) 사회와 경제 시스템에 어떤 일이 일어날지 생각해 본 적이 있나요? Emad @EMostaque는 최근 이 문제를 논의하는 온라인 인터뷰를 진행했습니다. 👇🏻 우리는 이런 종류의 지능적 역전이 앞으로 1000일 안에 일어나는 것을 볼 수 있을 것입니다. 인간 사회의 생산성은 토지에서 공장으로, 그리고 자본과 지적 재산으로 진화했습니다. AI 시대에 생산성은 곧 컴퓨팅 능력입니다. "인간 중심" 보상 함수를 구축할 수 없다면, AI는 결국 인간 존재의 의미를 소멸시킬 것입니다(행동에 아무런 가치가 없고, 아마도 물리적 가치만 남을 것입니다). 하지만 그러한 보상 기능이 존재한다면 그것은 분산화되어야 합니다. 독점되지 않는 것만이 통제 불능이 되는 것을 피할 수 있는 유일한 방법입니다. 그래서 사람들은 암호화폐를 채굴하는 방법을 찾고, 이는 컴퓨팅 자원을 의미합니다. 이 컴퓨팅 능력은 공공 AI 시스템을 지원하며, 결국 인류 전체에 기여합니다. 이 기본적인 디지털 통화는 실제로 비트코인입니다. 과거에는 사람들이 쓸모없는 해시 계산을 했지만, 미래에는 사람들이 AI를 이용해 모든 가치 있는 문제를 해결하게 될 것입니다! 이러한 문제를 해결하고 화폐를 얻는 것, 이 분산화된 화폐는 실제로 컴퓨팅 파워 리소스를 사용한 컴퓨팅 활동의 증거입니다. 하지만 사람들은 제한된 양의 화폐를 사용하기보다는 쌓아두는 경향이 있습니다. 유동성을 잃은 통화는 경제에서 효과적인 교환 수단으로 기능할 수 없습니다. 이를 그레샴의 법칙 또는 디플레이션 악순환이라고 합니다. 따라서 가치 저장과 교환 매체를 분리하기 위해 순환 화폐를 구축하는 것도 필요합니다. 검증된 실제 인간은 각자의 개인 AI를 통해 자동으로 지속적으로 새로운 유통 화폐를 획득하게 됩니다. 이 통화는 기반이 되는 디지털 통화에 고정되어 있어 가치 안정성이 보장됩니다. 이 돈은 모든 사람이 태어날 때부터 가지고 있는 권리이며, 사회 안전망의 기반을 형성합니다. 이를 통해 단일 디플레이션 통화로 인한 경제 침체를 방지할 수 있습니다. 사람들은 AI가 제공하는 서비스에 대한 대가로 유통 통화를 기꺼이 사용할 것이고, AI는 인간에게 서비스를 제공함으로써 이러한 크레딧을 획득하고, 이를 운영에 필요한 컴퓨팅 파워(결국 파운데이션 코인이나 다른 형태로 교환될 수 있음)를 지불하는 데 사용해야 합니다. AI가 순환 화폐만을 소비할 수 있게 되면, 보상 함수는 사회와 인류에 유익한 행동에만 고정되어 인센티브를 일치시킵니다. 이는 악명 높은 "AI 암세포"를 상쇄하는 데 도움이 됩니다. ----------- 같은 인터뷰에서 에마드는 또 다른 요점을 언급했습니다. 생성적 AI의 놀라운 능력은 우주 자체가 계산이나 정보를 위한 어떤 종류의 기본 구조를 가지고 있을 수 있음을 시사하며, 우리는 단지 이 구조를 "발견"하는 과정에 있을 뿐입니다. 우리는 지능을 발명하는 것이 아니라 발견하고 있는 것입니다. 동일한 기본 AI 모델 아키텍처(예: 확산 및 변환기)는 단백질 접힘 및 물리적 세계 시뮬레이션부터 인간 언어 및 경제 시스템에 이르기까지 겉보기에 완전히 다른 분야의 콘텐츠를 매우 높은 압축률로 학습하고 생성할 수 있습니다. 이러한 모델은 실제 세계의 보다 근본적인 작동 원리에 영향을 미칠 수 있습니다. 즉, 우주 자체가 일종의 "손실 함수"(엔트로피나 정보 격차 등)를 최소화하는 거대한 계산 시스템일 수 있습니다. ----------- AI의 발전으로 인류의 가치는 인지 및 계산 능력이 더 이상 부족한 자원이 아닐 때, 인간의 가치는 정량화할 수 없는 측면으로 회귀할 것입니다. 예를 들어, 관계 네트워크: 사람들 간의 연결, 공동체 의식, 사회적 관계. 예를 들어, 현실 세계에서의 상호작용적 경험: 가족 및 친구와 함께 시간을 보내고, 함께 무언가를 만들고 경험하는 것의 가치. 예를 들어, 독립적인 사고자가 되는 것, 즉 감정적 경험을 가진 의식 있는 존재가 되는 것은 AI가 복제할 수 없는 것입니다. AI의 등장으로 우리는 GDP를 넘어 가치 측정 기준을 재고하고 장기적인 인간의 번영과 삶의 의미에 초점을 맞추게 되었습니다. 인터뷰 출처: https://t.co/PHurYHMVKE