宝玉(@dotey)의 스레드

번역: "놀라운" 아이디어의 마인드 트랩에 저항하기 사고방식이나 논증의 질을 판단하는 중요한 기준은 제가 은하계 뇌 저항(단순한 문제를 지나치게 복잡하게 만들거나 겉보기에 정교한 이론을 통해 잘못된 관점을 뒷받침하는 "똑똑한 사람들"을 풍자하는 데 자주 사용되는 밈)에 저항하는 능력이라고 부르는 것입니다. 남용되기가 얼마나 어려운가? (다른 이유로 이미 하고 싶은) 것을 "정당화"하는 데 사용할 수 있는가? 이러한 정신은 과학에서의 반증 가능성(과학 이론으로 간주되려면 이론이 틀렸다는 것을 증명할 수 있어야 함)과 유사합니다. 만약 당신의 주장이 모든 것을 증명할 수 있다면, 아무것도 증명할 수 없다는 것입니다. 2단계에서 멈춰야 합니다. '무모한 상상력을 억제하는 것'이 왜 중요한지 이해하는 가장 간단한 방법은 상상력이 없을 때 어떤 일이 일어나는지 살펴보는 것입니다. 아마 비슷한 말을 많이 들어보셨을 겁니다. 우리는 고객과 공급업체의 상호작용 방식을 혁신하고, 창작자가 청중을 디지털 국가로 전환할 수 있는 완전히 새로운 분산형 시장을 구축하고 있습니다. $$ ... 정치 분야에서는 상황이 훨씬 더 심각할 수 있습니다. 예를 들어: [특정 소수 집단]이 현재 진행 중인 사회 혼란의 상당 부분에 책임이 있습니다. 그들은 우리의 자원을 고갈시켰습니다. 우리가 그들을 완전히 근절할 수 있다면 ('완전히' 근절해서 다시는 돌아오지 못하게 하는 것입니다), 비록 잔혹하고 일회성 조치일지라도, 장기적으로 볼 때 경제 성장률을 0.5%까지 높일 수 있다면, 500년 후 우리나라는 당시보다 12배 더 부유해질 것입니다. 이는 수많은 사람들이 더 행복하고 만족스러운 삶을 누리게 될 것입니다. 우리가 비겁하고 오늘 이 일회성 대가를 치르는 것을 두려워한다는 이유만으로 우리 후손들이 극심한 빈곤 속에서 살도록 내버려 두는 것은 심각한 불의입니다. 위의 주장을 반박하는 한 가지 방법은 철학 수업에서 수학 문제를 푸는 것처럼 다루는 것입니다. 즉, 동의하지 않는 구체적인 전제나 단계를 파악한 후 반박하는 것입니다. 하지만 더 현실적인 방법은 현실 세계에서 이러한 주장은 거의 '추론'이 아니라 '합리화'(즉, 결론을 먼저 제시하고 그 뒤에 그 근거를 제시하는 것)라는 점을 깨닫는 것입니다. 그 사람들은 이미 사리사욕이나 감정(예를 들어 토큰을 쌓아두거나, 그 소수 집단을 진심으로 증오하는 등)에 이끌려 결론을 내린 후, 자신의 입장을 정당화하기 위해 그럴듯한 주장을 꾸며냈습니다. 이러한 그럴듯한 주장의 목적은 다음과 같습니다. (i) 화자 자신의 '고차원적 사고'를 속여 '원시적 본능'에 굴복하게 하고, (ii) 속은 사람뿐 아니라 스스로를 똑똑하다고 생각하는 사람들(혹은 더 나쁘게는 진정으로 똑똑한 사람들)까지 끌어들여 자신들의 움직임을 강화하려는 것입니다. 이 글에서는 상상력을 억제하는 능력이 약한 것이 만연한 현상이며, 그 결과는 경미한 것부터 심각한 것까지 다양하다고 주장합니다. 또한 상상력을 억제하는 몇 가지 강력한 사고 패턴을 소개하고, 그 활용을 옹호할 것입니다. 창의적 사고에 저항하는 데 약한 사고 패턴 불가피성 최근 트윗을 살펴보세요. 실리콘 밸리의 AI "옹호"에 대한 수사학을 완벽하게 보여주는 대표적인 예입니다. 자동화로 인한 대량 실업은 불가피합니다. 이는 피할 수 없는 자연 경제 법칙입니다. 저희 회사(Mechanize Inc.)는 이러한 변화에 무의미하게 저항하는 것이 아니라, 이러한 과정을 가속화하고 원활한 전환을 보장하는 것을 목표로 합니다. 미래를 건설하는 데 함께해 주십시오. 이것은 필연성 오류의 전형적인 예입니다. 이 글은 (어쩌면 타당한) 진술로 시작합니다. 경제의 완전한 자동화는 결국 필연적으로 일어날 것입니다. 그리고 곧바로 결론으로 ​​넘어갑니다. 우리는 그날(그리고 그에 따른 인력의 실업)을 적극적으로 가속화해야 합니다. 왜 적극적으로 가속화해야 할까요? 아, 우리 모두 알고 있습니다. 이 트윗은 한 회사에서 작성했고, 그 회사의 사업 전체가 적극적으로 가속화하고 있기 때문입니다. 물론, '숙명론'은 철학적 오류이며, 우리는 철학적으로 이를 반박할 수 있습니다. 제가 이를 반박한다면, 세 가지 점에 초점을 맞출 것입니다. - 운명론은 '무한히 유동적인 시장'이 존재한다고 과장해서 가정합니다. 즉, 누군가 하지 않으면 다른 누군가가 즉시 그 빈틈을 메울 것이라는 것입니다. 이는 일부 산업에서는 사실일 수 있습니다. 하지만 AI는 정반대입니다. AI는 극소수의 개인과 기업이 대부분의 발전을 주도하는 분야입니다. 그중 하나라도 멈추면 발전 속도가 크게 둔화될 것입니다. - 운명론은 집단 의사 결정의 힘을 과소평가합니다. 개인이나 기업이 결정을 내릴 때, 그것은 종종 다른 사람들에게 본보기가 됩니다. 비록 단기적으로는 아무도 따르지 않더라도, 나중에 더 많은 행동을 위한 씨앗을 뿌릴 수 있습니다. 무언가에 맞서 싸우는 것은 '용감한 입장을 취하는 것' 자체가 효과적일 수 있음을 사람들에게 상기시켜 줄 수도 있습니다. - 운명론은 선택을 지나치게 단순화합니다. 기계화는 경제의 완전 자동화를 계속 추구할 수 있습니다. 문을 닫을 수도 있습니다. 하지만 '부분 자동화'를 구축하는 데 집중하여 아직 프로세스에 참여하는 사람들에게 권한을 부여하고, '인간-기계 협업'이 '순수 AI'보다 더 나은 성과를 내는 기간을 극대화함으로써 초지능으로 안전하게 전환할 시간을 확보할 수도 있습니다. 물론, 제가 고려하지 않은 다른 선택지도 있습니다. 하지만 현실 세계에서 운명론은 논리의 산물로 창조된 것이 아니기 때문에 순수한 논리로 극복할 수 없습니다. 우리 사회에서 운명론은 사람들이 사후에 (보통 정치적 권력이나 돈을 추구하는 등 다른 이유로) 자신의 행동을 합리화하도록 허용하는 데 가장 흔히 사용됩니다. 이 사실 자체를 이해하는 것이 종종 이에 맞서는 가장 좋은 방법입니다. 다른 사람들이 "모든 것은 돌이킬 수 없다"고 믿게 하고 포기하도록 설득할 때, 바로 그때가 당신이 가장 큰 영향력을 행사할 수 있는 때입니다. 장기주의 '장기주의'는 먼 미래에 중요한 것을 중시하는 사고방식입니다. 오늘날 많은 사람들은 이 용어를 '효과적 이타주의'의 장기주의와 연관 짓습니다. 80,000 Hours(효과적 이타주의 관련 진로 상담 기관)의 소개 글에서 볼 수 있듯이 말입니다. 미래의 잠재적 인구만 고려하더라도 이 숫자는 엄청납니다. 앞으로 5억 년 동안 매년 80억 명씩 증가한다고 가정하면, 인류 전체 인구는 약 400조 명에 달할 것입니다. 그리고 지구에 갇혀 살지 않게 되면, 우리가 우려해야 할 인구 잠재력은 실로 엄청납니다. 하지만 '장기적인 관점에 호소한다'는 개념은 훨씬 더 오래되었습니다. 수 세기 동안 개인 재무 설계사, 경제학자, 철학자, 나무를 심기 가장 좋은 시기를 논의하는 사람들, 그리고 그 외 많은 사람들이 미래의 더 큰 이익을 위해 오늘의 희생을 요구해 왔습니다. 제가 '장기주의'를 비판하기를 주저하는 이유는, 음, 장기적인 미래가 실제로 매우 중요하기 때문입니다. 누군가 사기를 당했다고 해서 블록체인을 하드포크하지는 않을 것입니다. 명확한 일회성 이점이 있을 수 있지만, 체인의 평판을 영구적으로 손상시킬 것이기 때문입니다. 타일러 코웬이 *Stubborn Attachments*에서 주장했듯이, 경제 성장은 미래에 사라지거나 악순환에 빠지지 않고 무한정 복리로 성장할 수 있는 몇 안 되는 요소 중 하나이기 때문에 매우 중요합니다. 자녀들에게 보상은 10년 후라는 것을 가르치십시오. '장기주의'를 전혀 받아들이지 않으면 결코 길을 닦을 수 없습니다. 장기적인 가치를 소중히 여기지 않으면 문제에 직면하게 됩니다. 개인적으로 제가 반대하는 주요 문제 중 하나는 '기술 부채'(개발자가 미래에 추가 작업으로 이어지는 '지름길'을 택하기 위해 하는 타협)입니다. 소프트웨어 개발자가 단기 목표에만 집중하고 일관된 장기 비전이 부족하면 시간이 지날수록 소프트웨어가 점점 더 보기 흉하고 쓰레기가 됩니다(참고: 이더리움 L1을 단순화하기 위한 저의 노력). 하지만 여기에는 함정이 있습니다. "장기주의" 주장은 무분별한 투기에 대한 저항력이 매우 약하다는 것입니다. 결국 "장기"는 먼 개념이기 때문입니다. X를 하면 미래에 거의 모든 좋은 일이 일어날 수 있다는 온갖 그럴듯한 이야기를 지어낼 수 있습니다. 현실 세계에서 시장과 정치의 움직임을 관찰하면 이러한 접근 방식의 단점을 끊임없이 발견하게 됩니다. 시장에서 이 두 모델을 구분하는 공통 변수는 '금리'입니다. 금리가 높을 때는 단기적으로 확실한 수익을 창출할 수 있는 프로젝트만 투자할 가치가 있습니다. 하지만 금리가 낮을 때는, 즉 '저금리 환경'이라는 용어가 이제는 널리 알려진 암호처럼 되어 버렸습니다. 이는 많은 사람들이 궁극적으로 비현실적인 '내러티브'를 만들어내고 이를 좇아 거품과 폭락을 초래하는 상황을 묘사합니다. 정치계에서는 정치인들이 유권자들을 만족시키기 위해 근시안적인 행동을 하며, 다음 선거 이후 다시 표면화될 때까지 문제를 덮어둔다는 불평이 흔합니다. 하지만 또 다른 문제가 있습니다. 바로 '아무 데도 가지 않는 다리'입니다. '장기적 가치'를 내세워 착공했지만, 그 '가치'는 결코 실현되지 않는 사회 기반 시설 사업입니다. 이러한 사례로는 라트비아의 '아무데도 연결되지 않는 다리'나 한때 시가총액이 18억 달러를 넘었던 '글로벌 치과 산업을 위한 블록체인 솔루션'인 덴타코인(Dentacoin)이 있습니다. 두 시나리오 모두의 핵심 문제는 장기적인 미래에 대해 생각하는 것이 현실과의 단절로 이어질 수 있다는 것입니다. 단기 지향적인 환경에서는 장기적인 관점을 무시할 수 있지만, 적어도 피드백 메커니즘은 존재합니다. 제안이 단기적인 이익을 주장하면, 누구나 그 이익이 단기적으로 실제로 실현되는지 확인할 수 있습니다. 그러나 장기 지향적인 환경에서는 '장기적인 이익'에 대한 주장이 옳을 필요는 없습니다. 그저 옳게 들리기만 하면 됩니다. 따라서 모두가 '장기적인 가치에 기반한 아이디어를 선택하는 게임'을 한다고 주장하지만, 실제로는 '종종 불협화음과 매우 적대적인 사회 환경에서 누가 이길지에 따라 아이디어를 선택하는 게임'을 하고 있는 것입니다. '막연하지만 엄청난 장기적 긍정적 결과'에 대한 이야기로 무엇이든 정당화할 수 있다면, '막연하지만 엄청난 장기적 긍정적 결과'에 대한 이야기는 아무것도 증명하지 못합니다. 현실에서 벗어나지 않고 장기적인 사고의 이점을 어떻게 얻을 수 있을까요? 우선, 정말 어렵다고 말씀드리고 싶습니다. 하지만 그 외에도 몇 가지 기본적인 경험 법칙이 있다고 생각합니다. 가장 간단한 것은 '장기적 이익'이라는 명목으로 하는 일이 실제로 그러한 이점을 가져다준다는 것을 증명할 수 있는 확실한 역사적 기록이 있는가 하는 것입니다. 경제 성장이 그렇습니다. 종의 멸종을 막는 것도 마찬가지입니다. '단일 세계 정부'를 수립하려는 시도는 그렇지 않습니다. 사실, 다른 많은 사례들처럼, 이 또한 반복적인 실패와 그 과정에서 발생한 막대한 피해에 대한 '확실한 역사적 기록'을 가지고 있습니다. 고려 중인 조치가 추측적인 '장기적 이익'을 가지고 있지만 확실한 '알려진 장기적 해악'을 가지고 있다면… 하지 마세요. 이 법칙이 항상 적용되는 것은 아닙니다. 때때로 우리는 전례 없는 시대에 살고 있기 때문입니다. 하지만 '우리는 전례 없는 시대에 살고 있다'는 말 자체가 엉뚱한 생각을 떨쳐내기 어렵게 만든다는 것을 기억하는 것도 마찬가지로 중요합니다. "개인적 미학"을 핑계로 물건을 금지하는 것은 성게는 정말 역겹습니다. 성게의 생식샘을 먹는 것과 마찬가지니까요. 가끔 오마카세(메뉴 없는 일본 요리)에서는 제 얼굴에 성게를 들이밀기도 합니다. 하지만 그럼에도 불구하고 저는 여전히 성게 금지에는 반대합니다. 이건 원칙의 문제니까요. 제가 혐오하는 행동 중 하나는 누군가 정부의 강압적인 권력을 이용해 궁극적으로는 '개인적인 미적 선호'에 불과한 것을 수백만 명의 다른 사람들의 사생활에 강요하는 것입니다. 미적 감각을 갖는 것은 괜찮습니다. 공공 환경을 설계할 때 미적 감각을 고려하는 것 또한 좋습니다. 하지만 자신의 미적 감각을 타인의 사생활에 강요하는 것은 용납할 수 없습니다. 타인에게 미적 감각을 강요하는 데 드는 비용은 자신의 심리적 이득보다 훨씬 더 크고, 만약 모두가 그렇게 하기를 원한다면 필연적으로 문화적 헤게모니, 즉 '만인에 대한 만인의 정치적 전쟁'으로 이어질 것입니다. 정치인들이 "어, 이건 역겹다"와 같은 핑계로 금지를 주장하는 사례는 거의 기정사실이라는 것을 쉽게 알 수 있습니다. 다양한 반동성애 운동에서 그 풍부한 사례를 찾아볼 수 있습니다. 예를 들어 상트페테르부르크 두마(Duma) 의원인 비탈리 미로노프는 다음과 같이 말했습니다. LGBT(게이, 양성애자, 트랜스젠더)는 아무런 권리도 없습니다. 우리나라에서 그들의 권리는 사회적으로 중요한 보호 가치 목록에 포함되어 있지 않습니다. 이른바 '변태'들은 우리나라 시민으로서 누리는 모든 권리를 가지고 있지만, 어떤 '확장된 최상위 목록'에는 포함되어 있지 않습니다. 우리는 그들을 우리나라의 인권 문제 목록에서 영구히 삭제할 것입니다. 블라디미르 푸틴 대통령조차 미국이 지나치게 '사탄주의'를 펼친다고 비난하며 우크라이나 침공을 정당화하려 했습니다. 좀 더 최근의, 조금 다른 예로 미국의 '합성고기' 금지 캠페인을 들 수 있습니다. '배양육'은 고기가 아닙니다... 사람이 만든 고기입니다. 진짜 고기는 신이 직접 만드신 것입니다... '질소 단백질 페이스트'를 정말 맛보고 싶다면 캘리포니아로 가세요. 하지만 훨씬 더 많은 사람들이 더 '문명화된' 접근 방식을 취하며, 어떤 변명으로 혐오감을 감추려 합니다. 흔한 변명은 '사회의 도덕적 구조', '사회적 안정' 등입니다. 이러한 주장은 '검열'을 정당화하는 데에도 자주 사용됩니다. 무엇이 문제일까요? 이 질문에 대한 답을 Scott Alexander(합리성과 AI 등의 주제에 대해 심도 있는 글을 쓰는 유명 블로거)에게 맡기겠습니다. '느슨한 해악의 원칙'은 정부가 복잡하고 간접적인 해악, 즉 '사회의 도덕성을 약화시키는' 해악에 분노할 수 있다는 생각을 가리킵니다. 하지만 '느슨한 해악의 원칙'을 그대로 두는 것은 '자유주의'가 막아야 했던 '타인을 통제하려는' 고대의 전쟁을 되살리는 것과 마찬가지입니다. 어떤 사람은 이렇게 말합니다. '동성 결혼은 동성애에 대한 더 폭넓은 수용을 초래하여 성병 발병률을 높일 것입니다! 이것은 해악입니다! 동성 결혼을 금지해야 합니다!' 또 다른 사람은 이렇게 말합니다. '자녀를 사립학교에 보내는 것을 허용하면 아이들이 종교 학교에 반동성애 정서를 퍼뜨려 나중에 증오 범죄를 저지르게 할 수 있습니다! 이것은 해악입니다! 사립학교를 금지해야 합니다!' 그리고 이러한 악순환은 끝없이 반복됩니다. '사회적 도덕 구조'는 분명히 존재합니다. 어떤 사회가 여러 면에서 다른 사회보다 더 도덕적이라는 것은 명백합니다. 하지만 모호하고 정의되지 않아 남용되기가 매우 쉽습니다. 거의 모든 것이 '사회적 도덕 구조 위반'으로 규정될 수 있습니다. 과학과 의학의 발전에 파괴적인 영향을 미친 '혐오의 지혜'에 더 직접적으로 호소하는 것도 마찬가지입니다. 또한 새롭게 등장하는 '그냥 싫으니까 금지한다'는 식의 이야기에도 적용됩니다. '글로벌 엘리트'에 맞선 투쟁과 '지역 문화'를 옹호하는 것이 대표적인 예입니다. 합성고기 반대론자들이 한 발언 중 일부를 살펴보겠습니다(이들은 왜 자신들이 합성고기를 먹지 않는지 설명하는 것이 아니라, 왜 다른 사람들이 자신의 선택을 받아들이도록 강요하고 싶어하는지 설명하고 있습니다). > '글로벌 엘리트'는 우리의 행동을 통제하고 미국인들이 '석유 고기와 벌레'로 이루어진 식단을 받아들이도록 강요하고 싶어합니다. 플로리다는 '아니요'라고 말합니다. 저는 실험실에서 배양된 육류를 플로리다에 들여오지 못하게 하고, 엘리트나 세계경제포럼의 의제가 아닌 우리 농부와 목장주들의 보호를 최우선으로 하는 SB 1084 법안에 서명한 것을 자랑스럽게 생각합니다. 어떤 사람들은 빌 게이츠와 함께 벌레를 먹는 것을 좋아할지도 모르지만, 나는 그렇지 않다. 이것이 제가 온건 자유주의(개인의 자유와 제한된 정부를 강조하는 정치 철학)에 크게 공감하는 주된 이유입니다. 저는 무언가를 금지하려면 특정 피해자에게 미치는 명확한 피해나 위험을 설명하는 명확한 근거가 필요하고, 그 근거가 법정에서 승소하면 해당 법은 폐지되어야 하는 사회에서 살고 싶습니다. 이렇게 하면 정부가 (이익집단)에 포섭되어 타인의 사생활에 문화적 선호를 강요하거나 만인에 대한 만인의 전쟁을 벌이는 데 이용될 가능성이 크게 줄어듭니다. "열등한 금융"을 옹호하다 암호화폐 세계에서는 다양한 고위험 프로젝트에 투자하라고 설득하려는 끔찍한 주장들을 자주 접하게 됩니다. 때로는 어떤 프로젝트가 수조 달러 규모의 산업을 '파괴'(즉, 참여)한다거나, 이 프로젝트가 얼마나 독특하고 아무도 하지 않았던 일을 해낸다는 등 '훌륭하다'는 식으로 들립니다. 하지만 어떤 경우에는 그저 '유명인의 지지 덕분에 가격이 오를 것'이라는 식의 이야기도 나옵니다. 저는 사람들이 "재미있게 노는 것", 심지어 돈의 일부를 위험에 빠뜨리는 것까지 반대하지 않습니다. 제가 반대하는 것은 "인플루언서들이 분명히 오를 거라고 말하는" 토큰에 순자산의 절반을 투자하도록 부추기는 것입니다. 가장 현실적인 결과는 2년 후 토큰의 가치가 없어지는 것뿐인데 말입니다. 하지만 제가 더욱 반대하는 것은 이러한 투기성 토큰 게임이 "도덕적으로 정당하다"는 주장입니다. 가난한 사람들이 현대 경제에서 공정한 기회를 얻으려면 이처럼 빠른 10배 수익이 필요하기 때문입니다. 다음과 같은 주장처럼요. 순자산 5천 달러짜리 사람에게 '천천히 투자하고 인덱스 펀드에 투자하세요'라는 조언은 지옥 같은 조언입니다. 그들에게 필요한 것은 상향 이동성입니다. 고위험 고수익 투자에 도전해야 합니다. 암호화폐(밈코인)는 현대 사회에서 그들에게 그런 기회를 제공하는 유일한 곳입니다. 이건 끔찍한 주장입니다. 이를 반박하는 한 가지 방법은 다른 주장과 마찬가지로 '이것은 의미 있거나 유익한 사회적 이동성의 한 형태이다'라는 주장을 해체하고 기각하는 것입니다. 이 주장의 핵심은 카지노가 제로섬 게임이라는 것입니다. 대략적으로, 이 게임을 통해 사회적 계층이 상승하는 사람 한 명당, 다른 한 명은 사회적 계층이 하락하는 것입니다. 하지만 수학을 더 깊이 파고들면 상황은 더욱 악화됩니다. 표준 복지 경제학 교과서에서 가장 먼저 배우는 개념 중 하나는 돈에 대한 개인의 '효용 함수'가 오목하다는 것입니다. (원문에서는 실수로 '볼록'이라고 표현했지만, 도표와 문맥을 보면 저자는 '오목 함수'를 분명히 언급하고 있으며, 이는 '한계 효용 체감'을 의미합니다.) 따라서 부유할수록 1달러를 더 벌었을 때 얻는 '효용'(만족감)은 줄어듭니다. 돈이 많을수록(수평축) 곡선의 기울기(1달러당 가치)가 낮아진다는 점에 유의하세요. 이 모델은 중요한 결론을 내립니다. 무작위 동전 던지기(도박), 특히 고액 도박은 평균적으로 당신에게 '해롭다'는 것입니다. 10만 달러를 잃는 고통은 10만 달러를 따는 기쁨보다 큽니다. 현재 20만 달러를 가지고 있고, 재산이 두 배로 늘어날 때마다(즉, 100% 증가 또는 50% 감소) 사회 계층이 한 단계씩 올라가거나 내려가는 모델을 구축한다고 가정해 보겠습니다. 10만 달러 베팅에서 이기면(재산이 30만 달러가 되면) 사회 계층의 약 절반이 상승하지만, 내기에서 지면(재산이 10만 달러가 되면) 사회 계층 전체가 하락합니다. 인간의 의사 결정을 진정으로 연구하고 사람들의 삶을 개선하고자 노력하는 학자들이 만든 경제 모델은 거의 항상 이러한 결론에 도달합니다. 그렇다면 어떤 경제 모델이 정반대의 결론, 즉 10배의 수익을 위해 모든 것을 쏟아부어야 한다는 결론에 도달할까요? 정답은 바로, 투자 대상 암호화폐에 대한 좋은 이야기를 찾는 것을 목표로 하는 사람들이 만들어낸 이야기입니다. 제가 이 글을 쓰는 목적은 진정으로 가난하고 절박한 상황에서 탈출구를 찾고 있는 사람들을 비난하는 것이 아닙니다. 오히려, 재정적으로 넉넉한 사람들을 비난하는 것입니다. 그들은 "가난하고 절박한 사람들에게는 정말 10배가 필요하다"는 구실로 "가난한 사람들을 더 큰 곤경에 빠뜨리기 위해 함정을 파는" 행위를 정당화합니다. 이것이 제가 이더리움 생태계를 '저위험 DeFi'(DeFi, 탈중앙화 금융)에 집중하도록 부추겨 온 이유를 크게 설명합니다. 제3세계 사람들이 자국 통화의 정치적 붕괴에서 벗어나 제1세계의 (안정적인) 금리를 이용할 수 있도록 하는 것은 놀라운 일입니다. 이는 다른 사람들을 절벽으로 밀어내지 않고도 사람들이 사회 계층에서 상승하도록 기적적으로 도울 수 있습니다. 최근 누군가 제게 이렇게 질문했습니다. '저위험 DeFi' 대신 '좋은 DeFi'라고 하면 어떨까요? 결국 모든 고위험 DeFi가 나쁜 것은 아니고, 모든 저위험 DeFi가 좋은 것은 아닙니다. 제 답은 이렇습니다. '좋은 DeFi'에 집중한다면 누구나 쉽게 '틀에서 벗어난 사고'를 하고 특정 유형의 DeFi를 '좋다'고 주장할 수 있습니다. 하지만 '저위험 DeFi'라고 한다면, 이는 구속력 있는 범주가 됩니다. '틀에서 벗어난 사고'를 하고 하룻밤 사이에 사람들을 명백히 파산시키는 활동을 '저위험'이라고 부르는 것은 정말 어렵습니다. 고위험 DeFi의 존재 자체에 반대하는 것은 아닙니다. 저는 예측 시장(미래 사건의 결과에 베팅하는 플랫폼)을 지지합니다. 하지만 더 건강한 생태계는 저위험 DeFi가 주력이고 고위험 DeFi는 보조적인 요소인 것입니다. 즉, 재미있고 실험적인 것이지, 평생 저축의 절반을 걸게 하는 것이 아닙니다. 마지막 질문입니다. '예측 시장은 단순한 도박이 아니라 정확한 정보에 대한 접근성을 향상시켜 사회에 이롭다'는 견해는 그저 지나치게 상상력이 풍부하고 사후 분석에 기반한 합리화에 불과한 것일까요? 어떤 사람들은 분명히 그렇게 생각합니다. "예측 시장은 대학 교육을 받은 사람들이 '인지적 가치'와 '사회적 유용성'과 같은 용어를 사용하여 자신들이 도박에 불과하다는 사실을 은폐하는 점성술에 불과합니다." 제 변명을 좀 해보겠습니다. 이것이 '사후 합리화'가 아니라고 판단할 수 있는 이유는 예측 시장을 이해하고 이를 현실로 만들려는 학문적 전통이 30년 동안 이어져 왔기 때문입니다. 이는 누군가가 (프로젝트를 만들든 참여하든) 예측 시장을 통해 큰돈을 벌 가능성보다 훨씬 더 오랜 시간입니다. 이러한 '기존 학문적 전통'은 밈코인이나 개인 토큰과 같은 비주류 사례에는 없는 것입니다. 하지만 다시 한번 말씀드리지만, 예측 시장은 저위험 DeFi가 아니므로, 순자산의 절반을 투자할 수 있는 부가적인 요소가 아닙니다. 전력 극대화 AI 관련 '효과적 이타주의'(EA) 집단에는 많은 유력 인사들이 있는데, 그들에게 물어보면 그들의 전략은 최대한 많은 권력을 축적하는 것이라고 분명하게 말할 것입니다. 그들의 목표는 유리한 위치를 점유하여 '중요한 순간'이 왔을 때 전력을 다하고 막대한 자원을 투입하여 '옳은 일을 할' 수 있도록 하는 것입니다. '권력 극대화'는 궁극의 '깜짝 놀랄 만한' 전략입니다. 'X를 할 수 있도록 나에게 권력을 줘'라는 주장은 X가 무엇이든 똑같이 설득력이 있습니다. 그 '결정적 순간'(AI 종말론에서 이는 유토피아를 달성하거나 인류 전체가 죽어 종이 클립처럼 변하기 직전의 순간을 의미합니다) 이전에는 '이타적' 이유로 하는 행동과 '탐욕스러운 자기 확대'를 위한 행동이 완전히 똑같아 보입니다. 따라서 후자를 달성하려는 사람은 아무런 대가 없이 전자를 달성하기 위해 노력하고 있다고 말하며 스스로를 선한 사람이라고 설득할 수 있습니다. '외부 관점'(자신의 주관적인 감정에 의존하기보다는 유사한 상황의 통계 데이터를 참조하는 것을 강조하는 인지 편향 교정 방법)에서 보면, 이 주장은 명백히 터무니없습니다. 모든 사람은 자신이 다른 사람보다 더 도덕적이라고 믿기 때문에, 모두가 자신의 힘을 극대화하는 것이 순이익이라고 생각하더라도 실제로는 그렇지 않다는 것을 쉽게 알 수 있습니다. 하지만 '내부 관점'에서 세상을 둘러보고 소셜 미디어의 증오, 정치적 부패, 해킹, 그리고 다른 AI 기업들의 무분별한 행동을 본다면, '나는 선량한 사람이니, 부패한 외부 세계를 무시하고 스스로 문제를 해결해야 한다'는 생각이 분명 매력적으로 느껴질 것입니다. 바로 이것이 '외부 관점'을 채택하는 것이 건강한 이유입니다. 또는, 좀 더 겸손한 '내면의 관점'을 취할 수도 있습니다. '효과적 이타주의' 포럼에서 흥미로운 주장을 하나 소개합니다. 투자의 가장 큰 장점은 아마도 나중에 자선 활동에 사용할 수 있는 재정 자원을 기하급수적으로 늘릴 수 있다는 점일 것입니다. 1926년 설립 이후 S&P 500은 인플레이션을 감안한 연간 수익률 약 7%를 달성했습니다. '가치 편향' 위험은 예측하기 어렵지만, 중요한 요소입니다. 예를 들어, 여러 자료에 따르면 효과적 이타주의 공동체 구성원의 연평균 '가치 편향률'은 약 10%에 달하는 것으로 나타났습니다. 다시 말해, 당신의 재산이 매년 7%씩 증가할 수 있지만, 경험적 데이터에 따르면 오늘 어떤 대의를 믿는다면 내일은 그 믿음이 약 10% 감소할 수 있습니다. 이는 태너 그리어의 관찰과 일치합니다. 대중 지식인들은 보통 약 10~15년의 '유통기한'을 가지며, 그 후에는 그들의 아이디어가 주변의 소음보다 더 나을 수 없게 됩니다. (제가 2011년에 글을 쓰기 시작했다는 사실의 중요성에 대해서는 독자 여러분의 판단에 맡기겠습니다.) 따라서 '나중에 행동하기 위해' 부를 축적한다면, 미래의 당신은 그 부를 사용해서 지금은 감당하지도 못할 일을 할 가능성이 큽니다. "내부적으로 더 많은 일을 할 수 있어요" AI 보안 분야에서 반복적으로 나타나는 문제는 '권력 극대화'와 '숙명론'이 뒤섞인 문제입니다. 즉, AI 보안을 강화하는 가장 좋은 방법은 초지능 AI 구현을 가속화하는 기업에 합류하여 '내부적으로' 개선을 시도하는 것이라는 믿음입니다. 이와 관련하여 다음과 같은 합리화가 자주 제기됩니다. "OpenAI에 매우 실망했습니다. 저처럼 안전을 중시하는 직원이 더 필요합니다. OpenAI에 합류하여 내부에서 변화를 주도하겠다고 선언합니다." '내부적 관점'에서 보면 이는 타당해 보입니다. 하지만 '외부적 관점'에서 보면, 본질적으로 다음과 같습니다. 캐릭터 A: "이곳은 정말 끔찍해요." 캐릭터 B: "그럼 왜 아직 떠나지 않았어요?" 캐릭터 A: "내가 여기 남아서 상황이 더 악화되도록 해야지." 이러한 사상 학파의 또 다른 좋은 예는 현대 러시아의 정치 체제입니다. 파이낸셜 타임스의 다음 기사를 인용해 보겠습니다. 2월 24일, 푸틴 대통령이 돈바스 분리주의자들을 인정한 지 3일 만에 그는 우크라이나에 대한 전면 공세를 개시했는데, 이는 그들의 최악의 예상을 뛰어넘는 것이었습니다. 다른 나라들처럼 그들 역시 푸틴의 진짜 의도를 텔레비전을 통해서만 알게 되었습니다. 푸틴 대통령이 테크노크라트들의 경고를 무시한 것은 그들에게 큰 타격을 입혔습니다. 전쟁 초기에 그레프(스베르방크 CEO)를 만난 전직 임원은 이렇게 말했습니다. "그가 그런 모습을 본 적이 없습니다. 완전히 무너져 내리고 엄청난 충격을 받았습니다. '...' 모두가 재앙이라고 생각했는데, 그 누구보다도 그가 그렇게 생각했습니다.'... 러시아 정치 엘리트의 좁은 영역에서 그레프와 나비울리나(러시아 중앙은행 총재) 같은 테크노크라트들은 한때 푸틴의 '실로비키'(강경파 안보 기구의 간부들)에 맞서는 근대주의자이자 개혁파 세력으로 여겨졌지만, 개방 시장에 대한 신념을 수호하고 전쟁에 공개적으로 반대할 수 있는 역사적인 기회가 오자 물러섰습니다." 전직 관리들에 따르면, 이러한 테크노크라트들은 푸틴과 결별하기는커녕, 서방의 제재 영향을 완화하고 러시아의 전시 경제를 유지하기 위해 전문 지식과 수단을 활용하여 '조력자'로서의 역할을 공고히 했습니다. 마찬가지로, 문제는 "나는 내면적으로 더 많은 것을 할 수 있다"라는 말에서 비롯되며, "틀에 박힌 사고에서 벗어나는 것"을 거부하는 능력은 매우 낮습니다. 실제로 무엇을 하든 "나는 내면적으로 더 많은 것을 할 수 있다"라고 말하기는 항상 쉽습니다. 그래서 결국 당신은 기계의 톱니바퀴처럼, 당신 옆에 있는 톱니바퀴들과 같은 역할을 하게 됩니다. 매일 대저택과 비싼 저녁 식사로 가족을 부양하기 위해 일하는 사람들 말입니다. 다만 당신의 이유가 더 그럴듯하게 들릴 뿐입니다. 그러면, 어떻게 하면 '틀에 박힌 사고방식을 벗어나는 것'을 피할 수 있을까요? 여러분은 다양한 일을 할 수 있지만, 저는 두 가지에 집중하겠습니다. 원칙을 고수하다 '하고 싶지 않은' 일에 대해 엄격한 선을 그으세요. 무고한 사람을 죽이지 말고, 도둑질하지 말고, 속이지 말고, 다른 사람의 개인적 자유를 존중하세요. 그리고 모든 예외에 대해 매우 높은 기준을 설정하세요. 철학자들은 종종 이를 '의무론적 윤리'(결과보다는 의무와 규칙을 강조하는 윤리)라고 부릅니다. 의무론은 많은 사람을 혼란스럽게 합니다. 물론 규칙 뒤에 근본적인 이유가 있다면, 그 이유를 직접 따져봐야 하지 않겠습니까? 만약 '훔치지 않는 것'이 규칙이라면, 도둑질은 보통 당신에게 이로운 것보다 피해자에게 해로운 것이 더 많기 때문에 '훔치지 않는 것'이 규칙이라면, '이로운 것보다 해로운 일을 하지 않는 것'이라는 규칙을 따라야 합니다. 하지만 도둑질이 '해로운 것보다 이로운' 경우도 있다면, 도둑질하세요! 이러한 결과주의적 접근 방식(과정이 아닌 결과에만 집중하는 방식)의 문제점은 지나치게 상상력이 풍부한 사고를 억제할 능력이 전혀 없다는 것입니다. 우리의 뇌는 "이 특정 상황에서 당신이 (다른 이유로) 오랫동안 하고 싶어 했던 일이 우연히 모든 인류에게 큰 도움이 되었다"는 주장을 뒷받침할 근거를 만들어내는 데 매우 능숙합니다. 반면 의무론은 "아니요, 당신은 그렇게 할 수 없습니다"라고 말할 것입니다. 의무론의 한 형태는 규칙 공리주의입니다. 규칙은 가장 큰 이익을 가져오는 것에 따라 선택되지만, 구체적인 행동을 선택할 때는 이미 선택한 규칙을 따르기만 하면 됩니다. 올바른 "부담"을 "잡으세요". 위에서 언급한 또 다른 공통적인 주제는 당신의 행동이 종종 '인센티브'에 의해 결정된다는 것입니다. 암호화폐 용어로 '인센티브'란 당신이 어떤 '가방'을 가지고 있느냐를 의미합니다. (당신의 견해와 행동에 영향을 미치는 자산이나 포지션을 의미합니다.) 이러한 압박감은 저항하기 어렵습니다. 이를 피하는 가장 간단한 방법은 자신에게 좋지 않은 인센티브를 설정하지 않는 것입니다. 또 다른 필연적인 결론은 잘못된 사회적 짐, 즉 자신이 속한 사회적 관계에 집착하지 않는 것입니다. 사회적 짐 없이 지내려고 노력할 수는 없습니다. 그렇게 하는 것은 인간의 가장 기본적인 본능에 어긋나기 때문입니다. 하지만 적어도, 그 짐을 다양화할 수는 있습니다. 이를 위한 가장 간단한 단계는 자신의 물리적 위치를 현명하게 선택하는 것입니다. 이는 이미 과도하게 사용된 'AI 안전에 기여하는 방법'이라는 주제에 대한 저의 개인적인 제안을 떠올리게 합니다. - '첨단, 완전 자율 AI' 기능 개발을 가속화하는 회사에서 일하지 마세요. - 샌프란시스코 만 지역에 거주하지 않습니다