이 글은 정말 잘 쓰였습니다. AI를 활용해 해석해 보겠습니다. (해석이 훌륭하고 직접 번역하는 것보다 이해하기 쉽습니다.) 여러분, 안녕하세요. 온라인에서 한 쪽이 유창하게 말하고 다양한 출처를 인용하며 "매우 지적"인 것처럼 들리는 논쟁을 자주 보지만, 당신은 항상 "뭔가 잘못됐다"는 불안감을 느끼십니까? 맞아요. 때로는 주장이 복잡할수록, "모든 것을 설명"할수록, 더 의심스러워지기도 하죠. 이더리움 창시자 비탈릭 부테린은 최근 이 현상을 구체적으로 다룬 장문의 글을 썼습니다. 그는 "갤럭시 브레인 레지스턴스(Galaxy Brain Resistance)"라는 멋진 용어를 만들어냈습니다. "갤럭시 브레인"은 정상적인 뇌가 점차 우주 전체를 비추는 빛나는 뇌로 진화하는 모습을 묘사한 밈입니다. 지나치게 사고하고, 간단한 문제를 복잡하게 만들다가 결국 터무니없는 결론에 도달하는 "똑똑한 사람들"을 풍자하는 데 자주 사용됩니다. 따라서 비탈릭 부테린이 언급한 "갤럭시 브레인 저항" 지수는 어떤 사고방식이나 주장이 "하고 싶은 모든 일"을 정당화하는 데 얼마나 악용되기 어려운지를 측정합니다. 이 기사는 우리 시대의 가장 큰 오해 중 하나를 폭로하기 때문에 매우 중요합니다. 우리는 토론이란 항상 진실을 찾는 것이라고 생각하지만, 비탈릭 부테린은 현실 세계에서 대부분의 화려한 주장은 "추론"이 아니라 "합리화"에 관한 것이라고 날카롭게 지적합니다. 무슨 뜻이에요? 즉, 많은 사람이 먼저 감정, 직관 또는 이기심(특정 동전을 보유하거나 특정 집단을 싫어하는 것 등)에 따라 결론을 내린 다음, 모든 지능을 동원해 그 결론을 뒷받침하는 겉보기에 정교한 이유를 찾는다는 의미입니다. "먼저 쏘고, 그다음 표적을 겨누라"는 식의 접근 방식은 완전히 광신적입니다. 그리고 "낮은 방어력"에 대한 주장은 그들이 가장 좋아하는 무기입니다. 왜냐하면 이 무기들은 다용도로 사용 가능하고 거의 모든 것을 방어하는 데 사용할 수 있기 때문입니다. 비탈릭 부테린은 자신의 글에서 가장 흔하고 위험한 "저방어 지수" 사고방식의 함정 몇 가지를 꼽았습니다. 이들이 어떻게 "기만당하는지" 살펴보겠습니다. 함정 1: "역사적 필연성"의 함정 "이런 일은 조만간 일어날 수밖에 없었으니, 막는 게 아니라 오히려 가속화해야 합니다!" 비탈릭 부테린은 실리콘 밸리의 AI 애호가들을 예로 들었습니다. 그들은 이렇게 말할 것입니다. "경제의 완전한 자동화는 '필연적'이며, 인간 노동은 단계적으로 사라질 운명입니다. 따라서 우리는 지금 이 과정을 가속화해야 합니다." 정말 말이 안 돼요? 역사의 바퀴는 계속 돌아가니까요. 하지만 비탈릭 부테린은 우리에게 이렇게 상기시켜 줍니다. 누가 이런 말을 했을까요? 바로 AI 개발에 전념하고 이를 통해 수익을 창출하는 기업들입니다. 이는 "낮은 방어 지수" 주장의 전형적인 예입니다. (아마도) 타당한 장기 예측("결국 자동화될 것이다")을 "그러니 지금 당장 자동화를 가속화해야 한다"로 대체하는 것입니다. 이 주장이 왜 이렇게 나쁜가? 1. 포기하게 만듭니다. 저항이 무의미하다는 것을 암시합니다. 하지만 비탈릭 부테린은 정반대로, 모두가 "포기하세요, 어쩔 수 없어요"라고 말할 때 바로 그때가 당신의 저항이 가장 가치 있다고 말합니다. 2. 다른 선택지를 가리게 됩니다. 현실은 단순히 "전력을 다하고" "폐쇄하는" 것보다 더 많은 선택지가 있다는 것입니다. 인간을 대체하는 대신, 인간을 돕는 AI 개발에 집중했다면 안전한 전환을 위한 시간을 더 확보할 수 있었을 것입니다. 3. 사적인 이익에 부합합니다. "필연성"은 "이익과 권력 추구"라는 그들의 진짜 동기를 가리기 위해 사용되는 허울 좋은 허울일 뿐입니다. 함정 2: "웅장한 미래를 위하여"라는 함정 "지금부터 N년 후의 거대한 청사진을 위해 / 미래의 수조 명의 사람들을 위해, 우리는 지금..." 비탈릭 부테린은 "장기주의"라는 용어를 언급했습니다. 무엇보다도, 비탈릭 부테린이 장기적인 사고방식에 반대하지 않는다는 점을 분명히 해야 합니다. 도로 건설, 자녀 교육, 은퇴 자금 마련은 모두 "장기주의"의 필요하고 올바른 형태입니다. 그는 남용되고 "강박적인" 장기주의에 반대합니다. 예를 들어, "5억 년 후 존재할지도 모르는 40조(!) 명의 사람들의 행복을 위해, 우리는 오늘의 모든 것을 XXX에 희생해야 합니다." 이 함정의 핵심은 목표를 너무 멀리 설정하면 "현실"과 분리된다는 것입니다. - "다음 분기에 프로젝트가 수익을 낼 것"이라고 말하면, 모든 사람이 다음 분기에 결과를 보고, 그것이 사실인지 거짓인지 분명해질 것입니다. 하지만 여러분의 프로젝트가 "500년 안에 세상을 구할 수 있다"고 말한다면, 500년 후에 누가 돌아와서 그것을 검증하겠습니까? 이로 인해 게임의 본질이 바뀌었습니다. 게임은 더 이상 "누가 진정으로 장기적인 가치를 창출할 수 있는가"가 아니라, "오늘날 누가 가장 인상적인 '장기적 스토리'를 전달할 수 있는가"에 관한 것입니다. V 신은 두 가지 훌륭한 예를 보여 주셨습니다. 1. 저금리 환경의 버블: 금리가 매우 낮으면 돈은 가치가 없고, 사람들은 단기 수익에는 관심이 없습니다. 사람들은 온갖 "미래에 대한 이야기"를 미친 듯이 쫓다가 결국 버블이 형성되고 붕괴됩니다. ("글로벌 치과 산업을 위해 설계된 블록체인 솔루션"을 생각해 보세요.) 2. 정치적 "아무데도 가지 않는 다리": 정치인들은 아무도 사용하지 않을 다리를 짓기 위해 막대한 예산을 요청하면서 "장기적 가치"를 정당화합니다. 이 함정을 어떻게 피할 수 있을까요? 비탈릭 부테린은 다음과 같은 규칙을 제시합니다. 어떤 행동이 "의심스러운 장기적 이점"을 가지고 있지만 "신뢰할 만한 단기적(또는 장기적) 해악"을 끼칠 경우, 그 행동을 하지 않는 것입니다. 함정 3: "이것은 사회/도덕에 해롭다"는 함정 "이것은 역겹고/부도덕하고/사회 구조를 해치는 일이므로 반드시 금지되어야 합니다!" 많은 사람들은 단지 "견딜 수 없다"는 이유만으로 정부의 강제력을 이용해 다른 사람의 사생활을 규제하고 싶어합니다. 예를 들어, 어떤 사람들은 "진짜 고기는 신이 창조한 것이고, 인공 고기는 인간이 만든 것인데... 이는 자연에 어긋난다!"고 주장하며 합성 고기 금지를 요구하고 있습니다. 하지만 "참을 수 없어"라는 이유가 너무 간단하기 때문에, 그들은 이를 "방어지수가 낮다"는 주장으로 포장합니다. 예를 들어, "이것은 우리의 도덕 구조를 파괴할 것입니다!" "이것은 사회 안정을 위협할 것입니다!" "이건 '글로벌 엘리트'가 우리에게 강요한 거예요!" 비탈릭 부테린은 "사회적 도덕 구조"라는 용어가 너무 모호해서, 자신이 싫어하는 새로운 것에 반대하는 데 사용할 수 있다고 말했습니다. 동성애, 새로운 음악, 합성 고기... 모두 이 용어로 낙인찍혔습니다. 비탈릭 부테린은 보다 온건한 형태의 자유주의에 기울어 있습니다. 무언가를 금지하려면 "명확한 피해자"에게 명백한 피해를 입혔다는 명확한 증거를 제시해야 합니다. 피해자가 누구인지, 어떤 피해를 입었는지 명확하게 설명할 수 없다면, 개인적인 편견을 가리기 위해 교묘한 언어를 사용하고 있을 가능성이 큽니다("그저 혐오감을 느껴요"). 함정 4: "이것은 가난한 계층/계급의 발전을 위한 것"이라는 함정 "투기/도박은 나쁜 것이 아닙니다. 그것은 가난한 사람들이 사회적 상향 이동을 이룰 수 있는 유일한 희망입니다!" 암호화폐 시장에서는 고위험 투자를 옹호하는 이런 목소리를 자주 듣습니다. 이 주장은 매우 고상하고 동정심이 가득한 것처럼 들리지만, 비탈릭 부테린은 그것이 극도로 "비정상적"이라고 생각합니다. 왜? 1. 수학적으로 틀렸습니다. 카지노는 제로섬 게임(혹은 마이너스섬 게임)입니다. 가난한 사람이 카지노에 들어가면 더 가난해질 가능성이 더 높습니다. 경제학의 기본 원리(효용 곡선)에 따르면, 가난한 사람이 1만 달러를 잃는 것은 1만 달러를 따는 것보다 훨씬 더 큰 타격입니다. 이처럼 위험 부담이 큰 게임은 사회 계층을 "고양"시키는 것이 아니라 "파괴"합니다. 2. 그 동기는 불순합니다. 이 주장의 진정한 옹호자는 누구일까요? 그들은 대개 이미 부유한 사람들이며, 이 "고귀한 이유"를 이용해 더 많은 사람들(가난한 사람들)을 시장으로 끌어들여 주식을 팔고 현금화하려는 사람들입니다. 비탈릭 부테린은 이더리움 생태계의 사람들에게 "좋은 DeFi"보다는 "위험이 낮은 DeFi"에 집중하라고 꾸준히 촉구해 왔습니다. "저위험"이라는 용어를 사용하는 이유는 무엇일까요? "저위험"이라는 용어는 남용하기 어려운 기준이기 때문입니다. 강력한 효력을 가지고 있으며, 데이터를 통해 위험도가 높은지 낮은지를 명확하게 파악할 수 있습니다. 하지만 "좋다"라는 단어는 너무 쉽게 오용됩니다. 누구든 그의 고위험 카지노 프로젝트가 실제로 사회에 "좋다"는 이유를 설명하기 위해 "은하계적 두뇌" 수준의 주장을 꾸며낼 수 있습니다. 함정 5: "시스템 내에서 더 많은 일을 할 수 있다"는 함정 "저는 AI와 부패를 가속화하는 회사/정부에 합류하여 내부에서 그것을 바꾸고자 했습니다." 이는 비탈릭 부테린이 "나는 내면주의에 더 치중하고 있다"고 부르는 가장 날카로운 비판입니다. AI 보안 분야에서 많은 사람들이 "가장 혁신적인 AI 기업에 합류해 '중요한 순간'에 영향력을 행사하고 AI 보안을 확보하고 싶다"고 말합니다. 현실 정치에서 많은 사람들은 "저는 푸틴 정부에 남아서 제 전문 지식을 활용해 경제에 미치는 피해를 완화하려고 합니다."라고 말합니다. (V God는 러시아 테크노크라트에 대한 파이낸셜 타임스 기사를 인용했습니다.) V신은 이것이 거의 가장 낮은 "길을 잃는 것을 막는 지수"라고 믿습니다. 1. "대중의 유행에 편승"할 완벽한 변명을 제공합니다. 실제로 무엇을 하든 "내면부터 바꾸기 위해 이 일을 하고 있다"라고 주장할 수 있습니다. 2. 거의 항상 자기기만입니다. 현실은 결국 당신은 그 기계의 효율적인 톱니바퀴에 불과하고, 당신의 모든 전문 기술은 객관적으로 "공범"이 되어, 당신이 반대한다고 주장하는 기계를 더욱 원활하게 돌아가게 만든다는 것입니다. 그러면 우리는 어떻게 잘못된 길로 가는 것을 막을 수 있을까? V 신은 매우 실용적인 두 가지 제안을 하셨습니다. 1. 원칙을 고수하세요(항상 "결과를 계산하는 것"에 대해 생각하는 대신). 비탈릭 부테린은 도덕의 "의무론"을 옹호합니다. 이 용어를 이해할 필요는 없습니다. 단순히 절대 어기지 않을 엄격한 규칙을 스스로 정하는 것을 의미합니다. 예를 들어, "나는 절대 도둑질하지 않을 것이다", "나는 절대 속이지 않을 것이다", "나는 절대 무고한 사람을 죽이지 않을 것이다"와 같은 규칙이 있습니다. 왜 이것이 중요한가요? 또 다른 종류의 "결과 이론"("결과가 좋으면 무엇이든 할 수 있다") 때문에 잘못된 길로 갈 위험이 너무 낮습니다! 우리의 뇌는 "합리화"에 너무 능숙합니다. "결과주의"를 믿는다면, "이 도둑질은 나에게 엄청난 이익을 가져다줄 거야"와 같은 유혹에 직면할 때마다 "은하계적 뇌"가 즉시 활성화되어 "이 도둑질이 왜 실제로 인류 전체의 장기적인 복지에 이로운가"를 주장하게 될 것입니다. 당신은 항상 자신을 설득할 수 있습니다. 확고한 원칙은 "너무 똑똑해지는 것"을 막는 방화벽입니다. 2. 어떤 주머니가 있는지 알아보세요(적절한 가방을 넣으세요) 암호화폐 용어로 "가방"은 당신이 보유한 자산(당신의 "포지션")을 의미합니다. 비탈릭 부테린은 동기(지위)와 사회적 관계("소셜 포켓")가 마음을 형성하는 가장 강력한 힘이라고 말합니다. - 특정 코인을 소유하게 되면 객관적으로 보는 게 어렵습니다. - 친구들이 모두 AI가 안전하다고 말한다면, 당신은 AI가 위험하다고 믿기 어렵습니다. "주머니" 없이는 살 수 없습니다(사람들은 항상 격려와 친구가 필요합니다). 하지만 적어도 다음과 같은 것은 가능합니다. 1. 적극적으로 "주머니"를 선택하세요. 판단을 왜곡하는 인센티브는 피하세요. 2. 특히 사회적 관계를 중심으로 "주머니"(자원)를 다양화하세요. 이는 AI 보안 전문가를 위한 Vitalik Buterin의 마지막 두 가지 조언으로 이어지며, 이는 이러한 원칙에 대한 그의 헌신을 반영합니다. 1. "완전 자동화된 최첨단 AI" 개발을 가속화하는 회사에서는 일하지 마세요. (그렇게 하면 동기 부여가 왜곡될 수 있습니다.) 2. 샌프란시스코 만 지역에 거주하지 마세요. (그곳의 사회보장 혜택이 너무 제한적이기 때문입니다.) 요약하다 비탈릭 부테린의 기사는 표면적으로는 AI, 암호화폐, 정치에 대해 이야기하지만 실제로는 복잡한 세상에서 냉정함을 유지하는 데 대한 보편적인 지침을 제공합니다. 가장 위험한 주장은 결함투성이인 주장이 아니라, 너무 유연하고, 너무 정교하며, 어떤 동기에든 부합할 수 있는 "보편적인 이유"입니다. 진정한 지혜는 모든 것을 설명할 수 있는 "은하적 두뇌"를 갖는 것이 아니라, 언제 "똑똑한" 계산을 멈추고 간단하고 견고하며 흔하지 않은 원리로 돌아갈지 아는 것입니다.
번역: "놀라운" 아이디어의 마인드 트랩에 저항하기 사고방식이나 논증의 질을 판단하는 중요한 기준은 제가 은하계 뇌 저항(단순한 문제를 지나치게 복잡하게 만들거나 겉보기에 정교한 이론을 통해 잘못된 관점을 뒷받침하는 "똑똑한 사람들"을 풍자하는 데 자주 사용되는 밈)에 저항하는 능력이라고 부르는 것입니다. 남용되기가 얼마나 어려운가? (다른 이유로 이미 하고 싶은) 것을 "정당화"하는 데 사용할 수 있는가? 이러한 정신은 과학에서의 반증 가능성(과학 이론으로 간주되려면 이론이 틀렸다는 것을 증명할 수 있어야 함)과 유사합니다. 만약 당신의 주장이 모든 것을 증명할 수 있다면, 아무것도 증명할 수 없다는 것입니다. 2단계에서 멈춰야 합니다. '무모한 상상력을 억제하는 것'이 왜 중요한지 이해하는 가장 간단한 방법은 상상력이 없을 때 어떤 일이 일어나는지 살펴보는 것입니다. 아마 비슷한 말을 많이 들어보셨을 겁니다. 우리는 고객과 공급업체의 상호작용 방식을 혁신하고, 창작자가 청중을 디지털 국가로 전환할 수 있는 완전히 새로운 분산형 시장을 구축하고 있습니다. $$ ... 정치 분야에서는 상황이 훨씬 더 심각할 수 있습니다. 예를 들어: [특정 소수 집단]이 현재 진행 중인 사회 혼란의 상당 부분에 책임이 있습니다. 그들은 우리의 자원을 고갈시켰습니다. 우리가 그들을 완전히 근절할 수 있다면 ('완전히' 근절해서 다시는 돌아오지 못하게 하는 것입니다), 비록 잔혹하고 일회성 조치일지라도, 장기적으로 볼 때 경제 성장률을 0.5%까지 높일 수 있다면, 500년 후 우리나라는 당시보다 12배 더 부유해질 것입니다. 이는 수많은 사람들이 더 행복하고 만족스러운 삶을 누리게 될 것입니다. 우리가 비겁하고 오늘 이 일회성 대가를 치르는 것을 두려워한다는 이유만으로 우리 후손들이 극심한 빈곤 속에서 살도록 내버려 두는 것은 심각한 불의입니다. 위의 주장을 반박하는 한 가지 방법은 철학 수업에서 수학 문제를 푸는 것처럼 다루는 것입니다. 즉, 동의하지 않는 구체적인 전제나 단계를 파악한 후 반박하는 것입니다. 하지만 더 현실적인 방법은 현실 세계에서 이러한 주장은 거의 '추론'이 아니라 '합리화'(즉, 결론을 먼저 제시하고 그 뒤에 그 근거를 제시하는 것)라는 점을 깨닫는 것입니다. 그 사람들은 이미 사리사욕이나 감정(예를 들어 토큰을 쌓아두거나, 그 소수 집단을 진심으로 증오하는 등)에 이끌려 결론을 내린 후, 자신의 입장을 정당화하기 위해 그럴듯한 주장을 꾸며냈습니다. 이러한 그럴듯한 주장의 목적은 다음과 같습니다. (i) 화자 자신의 '고차원적 사고'를 속여 '원시적 본능'에 굴복하게 하고, (ii) 속은 사람뿐 아니라 스스로를 똑똑하다고 생각하는 사람들(혹은 더 나쁘게는 진정으로 똑똑한 사람들)까지 끌어들여 자신들의 움직임을 강화하려는 것입니다. 이 글에서는 상상력을 억제하는 능력이 약한 것이 만연한 현상이며, 그 결과는 경미한 것부터 심각한 것까지 다양하다고 주장합니다. 또한 상상력을 억제하는 몇 가지 강력한 사고 패턴을 소개하고, 그 활용을 옹호할 것입니다. 창의적 사고에 저항하는 데 약한 사고 패턴 불가피성 최근 트윗을 살펴보세요. 실리콘 밸리의 AI "옹호"에 대한 수사학을 완벽하게 보여주는 대표적인 예입니다. 자동화로 인한 대량 실업은 불가피합니다. 이는 피할 수 없는 자연 경제 법칙입니다. 저희 회사(Mechanize Inc.)는 이러한 변화에 무의미하게 저항하는 것이 아니라, 이러한 과정을 가속화하고 원활한 전환을 보장하는 것을 목표로 합니다. 미래를 건설하는 데 함께해 주십시오. 이것은 필연성 오류의 전형적인 예입니다. 이 글은 (어쩌면 타당한) 진술로 시작합니다. 경제의 완전한 자동화는 결국 필연적으로 일어날 것입니다. 그리고 곧바로 결론으로 넘어갑니다. 우리는 그날(그리고 그에 따른 인력의 실업)을 적극적으로 가속화해야 합니다. 왜 적극적으로 가속화해야 할까요? 아, 우리 모두 알고 있습니다. 이 트윗은 한 회사에서 작성했고, 그 회사의 사업 전체가 적극적으로 가속화하고 있기 때문입니다. 물론, '숙명론'은 철학적 오류이며, 우리는 철학적으로 이를 반박할 수 있습니다. 제가 이를 반박한다면, 세 가지 점에 초점을 맞출 것입니다. - 운명론은 '무한히 유동적인 시장'이 존재한다고 과장해서 가정합니다. 즉, 누군가 하지 않으면 다른 누군가가 즉시 그 빈틈을 메울 것이라는 것입니다. 이는 일부 산업에서는 사실일 수 있습니다. 하지만 AI는 정반대입니다. AI는 극소수의 개인과 기업이 대부분의 발전을 주도하는 분야입니다. 그중 하나라도 멈추면 발전 속도가 크게 둔화될 것입니다. - 운명론은 집단 의사 결정의 힘을 과소평가합니다. 개인이나 기업이 결정을 내릴 때, 그것은 종종 다른 사람들에게 본보기가 됩니다. 비록 단기적으로는 아무도 따르지 않더라도, 나중에 더 많은 행동을 위한 씨앗을 뿌릴 수 있습니다. 무언가에 맞서 싸우는 것은 '용감한 입장을 취하는 것' 자체가 효과적일 수 있음을 사람들에게 상기시켜 줄 수도 있습니다. - 운명론은 선택을 지나치게 단순화합니다. 기계화는 경제의 완전 자동화를 계속 추구할 수 있습니다. 문을 닫을 수도 있습니다. 하지만 '부분 자동화'를 구축하는 데 집중하여 아직 프로세스에 참여하는 사람들에게 권한을 부여하고, '인간-기계 협업'이 '순수 AI'보다 더 나은 성과를 내는 기간을 극대화함으로써 초지능으로 안전하게 전환할 시간을 확보할 수도 있습니다. 물론, 제가 고려하지 않은 다른 선택지도 있습니다. 하지만 현실 세계에서 운명론은 논리의 산물로 창조된 것이 아니기 때문에 순수한 논리로 극복할 수 없습니다. 우리 사회에서 운명론은 사람들이 사후에 (보통 정치적 권력이나 돈을 추구하는 등 다른 이유로) 자신의 행동을 합리화하도록 허용하는 데 가장 흔히 사용됩니다. 이 사실 자체를 이해하는 것이 종종 이에 맞서는 가장 좋은 방법입니다. 다른 사람들이 "모든 것은 돌이킬 수 없다"고 믿게 하고 포기하도록 설득할 때, 바로 그때가 당신이 가장 큰 영향력을 행사할 수 있는 때입니다. 장기주의 '장기주의'는 먼 미래에 중요한 것을 중시하는 사고방식입니다. 오늘날 많은 사람들은 이 용어를 '효과적 이타주의'의 장기주의와 연관 짓습니다. 80,000 Hours(효과적 이타주의 관련 진로 상담 기관)의 소개 글에서 볼 수 있듯이 말입니다. 미래의 잠재적 인구만 고려하더라도 이 숫자는 엄청납니다. 앞으로 5억 년 동안 매년 80억 명씩 증가한다고 가정하면, 인류 전체 인구는 약 400조 명에 달할 것입니다. 그리고 지구에 갇혀 살지 않게 되면, 우리가 우려해야 할 인구 잠재력은 실로 엄청납니다. 하지만 '장기적인 관점에 호소한다'는 개념은 훨씬 더 오래되었습니다. 수 세기 동안 개인 재무 설계사, 경제학자, 철학자, 나무를 심기 가장 좋은 시기를 논의하는 사람들, 그리고 그 외 많은 사람들이 미래의 더 큰 이익을 위해 오늘의 희생을 요구해 왔습니다. 제가 '장기주의'를 비판하기를 주저하는 이유는, 음, 장기적인 미래가 실제로 매우 중요하기 때문입니다. 누군가 사기를 당했다고 해서 블록체인을 하드포크하지는 않을 것입니다. 명확한 일회성 이점이 있을 수 있지만, 체인의 평판을 영구적으로 손상시킬 것이기 때문입니다. 타일러 코웬이 *Stubborn Attachments*에서 주장했듯이, 경제 성장은 미래에 사라지거나 악순환에 빠지지 않고 무한정 복리로 성장할 수 있는 몇 안 되는 요소 중 하나이기 때문에 매우 중요합니다. 자녀들에게 보상은 10년 후라는 것을 가르치십시오. '장기주의'를 전혀 받아들이지 않으면 결코 길을 닦을 수 없습니다. 장기적인 가치를 소중히 여기지 않으면 문제에 직면하게 됩니다. 개인적으로 제가 반대하는 주요 문제 중 하나는 '기술 부채'(개발자가 미래에 추가 작업으로 이어지는 '지름길'을 택하기 위해 하는 타협)입니다. 소프트웨어 개발자가 단기 목표에만 집중하고 일관된 장기 비전이 부족하면 시간이 지날수록 소프트웨어가 점점 더 보기 흉하고 쓰레기가 됩니다(참고: 이더리움 L1을 단순화하기 위한 저의 노력). 하지만 여기에는 함정이 있습니다. "장기주의" 주장은 무분별한 투기에 대한 저항력이 매우 약하다는 것입니다. 결국 "장기"는 먼 개념이기 때문입니다. X를 하면 미래에 거의 모든 좋은 일이 일어날 수 있다는 온갖 그럴듯한 이야기를 지어낼 수 있습니다. 현실 세계에서 시장과 정치의 움직임을 관찰하면 이러한 접근 방식의 단점을 끊임없이 발견하게 됩니다. 시장에서 이 두 모델을 구분하는 공통 변수는 '금리'입니다. 금리가 높을 때는 단기적으로 확실한 수익을 창출할 수 있는 프로젝트만 투자할 가치가 있습니다. 하지만 금리가 낮을 때는, 즉 '저금리 환경'이라는 용어가 이제는 널리 알려진 암호처럼 되어 버렸습니다. 이는 많은 사람들이 궁극적으로 비현실적인 '내러티브'를 만들어내고 이를 좇아 거품과 폭락을 초래하는 상황을 묘사합니다. 정치계에서는 정치인들이 유권자들을 만족시키기 위해 근시안적인 행동을 하며, 다음 선거 이후 다시 표면화될 때까지 문제를 덮어둔다는 불평이 흔합니다. 하지만 또 다른 문제가 있습니다. 바로 '아무 데도 가지 않는 다리'입니다. '장기적 가치'를 내세워 착공했지만, 그 '가치'는 결코 실현되지 않는 사회 기반 시설 사업입니다. 이러한 사례로는 라트비아의 '아무데도 연결되지 않는 다리'나 한때 시가총액이 18억 달러를 넘었던 '글로벌 치과 산업을 위한 블록체인 솔루션'인 덴타코인(Dentacoin)이 있습니다. 두 시나리오 모두의 핵심 문제는 장기적인 미래에 대해 생각하는 것이 현실과의 단절로 이어질 수 있다는 것입니다. 단기 지향적인 환경에서는 장기적인 관점을 무시할 수 있지만, 적어도 피드백 메커니즘은 존재합니다. 제안이 단기적인 이익을 주장하면, 누구나 그 이익이 단기적으로 실제로 실현되는지 확인할 수 있습니다. 그러나 장기 지향적인 환경에서는 '장기적인 이익'에 대한 주장이 옳을 필요는 없습니다. 그저 옳게 들리기만 하면 됩니다. 따라서 모두가 '장기적인 가치에 기반한 아이디어를 선택하는 게임'을 한다고 주장하지만, 실제로는 '종종 불협화음과 매우 적대적인 사회 환경에서 누가 이길지에 따라 아이디어를 선택하는 게임'을 하고 있는 것입니다. '막연하지만 엄청난 장기적 긍정적 결과'에 대한 이야기로 무엇이든 정당화할 수 있다면, '막연하지만 엄청난 장기적 긍정적 결과'에 대한 이야기는 아무것도 증명하지 못합니다. 현실에서 벗어나지 않고 장기적인 사고의 이점을 어떻게 얻을 수 있을까요? 우선, 정말 어렵다고 말씀드리고 싶습니다. 하지만 그 외에도 몇 가지 기본적인 경험 법칙이 있다고 생각합니다. 가장 간단한 것은 '장기적 이익'이라는 명목으로 하는 일이 실제로 그러한 이점을 가져다준다는 것을 증명할 수 있는 확실한 역사적 기록이 있는가 하는 것입니다. 경제 성장이 그렇습니다. 종의 멸종을 막는 것도 마찬가지입니다. '단일 세계 정부'를 수립하려는 시도는 그렇지 않습니다. 사실, 다른 많은 사례들처럼, 이 또한 반복적인 실패와 그 과정에서 발생한 막대한 피해에 대한 '확실한 역사적 기록'을 가지고 있습니다. 고려 중인 조치가 추측적인 '장기적 이익'을 가지고 있지만 확실한 '알려진 장기적 해악'을 가지고 있다면… 하지 마세요. 이 법칙이 항상 적용되는 것은 아닙니다. 때때로 우리는 전례 없는 시대에 살고 있기 때문입니다. 하지만 '우리는 전례 없는 시대에 살고 있다'는 말 자체가 엉뚱한 생각을 떨쳐내기 어렵게 만든다는 것을 기억하는 것도 마찬가지로 중요합니다. "개인적 미학"을 핑계로 물건을 금지하는 것은 성게는 정말 역겹습니다. 성게의 생식샘을 먹는 것과 마찬가지니까요. 가끔 오마카세(메뉴 없는 일본 요리)에서는 제 얼굴에 성게를 들이밀기도 합니다. 하지만 그럼에도 불구하고 저는 여전히 성게 금지에는 반대합니다. 이건 원칙의 문제니까요. 제가 혐오하는 행동 중 하나는 누군가 정부의 강압적인 권력을 이용해 궁극적으로는 '개인적인 미적 선호'에 불과한 것을 수백만 명의 다른 사람들의 사생활에 강요하는 것입니다. 미적 감각을 갖는 것은 괜찮습니다. 공공 환경을 설계할 때 미적 감각을 고려하는 것 또한 좋습니다. 하지만 자신의 미적 감각을 타인의 사생활에 강요하는 것은 용납할 수 없습니다. 타인에게 미적 감각을 강요하는 데 드는 비용은 자신의 심리적 이득보다 훨씬 더 크고, 만약 모두가 그렇게 하기를 원한다면 필연적으로 문화적 헤게모니, 즉 '만인에 대한 만인의 정치적 전쟁'으로 이어질 것입니다. 정치인들이 "어, 이건 역겹다"와 같은 핑계로 금지를 주장하는 사례는 거의 기정사실이라는 것을 쉽게 알 수 있습니다. 다양한 반동성애 운동에서 그 풍부한 사례를 찾아볼 수 있습니다. 예를 들어 상트페테르부르크 두마(Duma) 의원인 비탈리 미로노프는 다음과 같이 말했습니다. LGBT(게이, 양성애자, 트랜스젠더)는 아무런 권리도 없습니다. 우리나라에서 그들의 권리는 사회적으로 중요한 보호 가치 목록에 포함되어 있지 않습니다. 이른바 '변태'들은 우리나라 시민으로서 누리는 모든 권리를 가지고 있지만, 어떤 '확장된 최상위 목록'에는 포함되어 있지 않습니다. 우리는 그들을 우리나라의 인권 문제 목록에서 영구히 삭제할 것입니다. 블라디미르 푸틴 대통령조차 미국이 지나치게 '사탄주의'를 펼친다고 비난하며 우크라이나 침공을 정당화하려 했습니다. 좀 더 최근의, 조금 다른 예로 미국의 '합성고기' 금지 캠페인을 들 수 있습니다. '배양육'은 고기가 아닙니다... 사람이 만든 고기입니다. 진짜 고기는 신이 직접 만드신 것입니다... '질소 단백질 페이스트'를 정말 맛보고 싶다면 캘리포니아로 가세요. 하지만 훨씬 더 많은 사람들이 더 '문명화된' 접근 방식을 취하며, 어떤 변명으로 혐오감을 감추려 합니다. 흔한 변명은 '사회의 도덕적 구조', '사회적 안정' 등입니다. 이러한 주장은 '검열'을 정당화하는 데에도 자주 사용됩니다. 무엇이 문제일까요? 이 질문에 대한 답을 Scott Alexander(합리성과 AI 등의 주제에 대해 심도 있는 글을 쓰는 유명 블로거)에게 맡기겠습니다. '느슨한 해악의 원칙'은 정부가 복잡하고 간접적인 해악, 즉 '사회의 도덕성을 약화시키는' 해악에 분노할 수 있다는 생각을 가리킵니다. 하지만 '느슨한 해악의 원칙'을 그대로 두는 것은 '자유주의'가 막아야 했던 '타인을 통제하려는' 고대의 전쟁을 되살리는 것과 마찬가지입니다. 어떤 사람은 이렇게 말합니다. '동성 결혼은 동성애에 대한 더 폭넓은 수용을 초래하여 성병 발병률을 높일 것입니다! 이것은 해악입니다! 동성 결혼을 금지해야 합니다!' 또 다른 사람은 이렇게 말합니다. '자녀를 사립학교에 보내는 것을 허용하면 아이들이 종교 학교에 반동성애 정서를 퍼뜨려 나중에 증오 범죄를 저지르게 할 수 있습니다! 이것은 해악입니다! 사립학교를 금지해야 합니다!' 그리고 이러한 악순환은 끝없이 반복됩니다. '사회적 도덕 구조'는 분명히 존재합니다. 어떤 사회가 여러 면에서 다른 사회보다 더 도덕적이라는 것은 명백합니다. 하지만 모호하고 정의되지 않아 남용되기가 매우 쉽습니다. 거의 모든 것이 '사회적 도덕 구조 위반'으로 규정될 수 있습니다. 과학과 의학의 발전에 파괴적인 영향을 미친 '혐오의 지혜'에 더 직접적으로 호소하는 것도 마찬가지입니다. 또한 새롭게 등장하는 '그냥 싫으니까 금지한다'는 식의 이야기에도 적용됩니다. '글로벌 엘리트'에 맞선 투쟁과 '지역 문화'를 옹호하는 것이 대표적인 예입니다. 합성고기 반대론자들이 한 발언 중 일부를 살펴보겠습니다(이들은 왜 자신들이 합성고기를 먹지 않는지 설명하는 것이 아니라, 왜 다른 사람들이 자신의 선택을 받아들이도록 강요하고 싶어하는지 설명하고 있습니다). > '글로벌 엘리트'는 우리의 행동을 통제하고 미국인들이 '석유 고기와 벌레'로 이루어진 식단을 받아들이도록 강요하고 싶어합니다. 플로리다는 '아니요'라고 말합니다. 저는 실험실에서 배양된 육류를 플로리다에 들여오지 못하게 하고, 엘리트나 세계경제포럼의 의제가 아닌 우리 농부와 목장주들의 보호를 최우선으로 하는 SB 1084 법안에 서명한 것을 자랑스럽게 생각합니다. 어떤 사람들은 빌 게이츠와 함께 벌레를 먹는 것을 좋아할지도 모르지만, 나는 그렇지 않다. 이것이 제가 온건 자유주의(개인의 자유와 제한된 정부를 강조하는 정치 철학)에 크게 공감하는 주된 이유입니다. 저는 무언가를 금지하려면 특정 피해자에게 미치는 명확한 피해나 위험을 설명하는 명확한 근거가 필요하고, 그 근거가 법정에서 승소하면 해당 법은 폐지되어야 하는 사회에서 살고 싶습니다. 이렇게 하면 정부가 (이익집단)에 포섭되어 타인의 사생활에 문화적 선호를 강요하거나 만인에 대한 만인의 전쟁을 벌이는 데 이용될 가능성이 크게 줄어듭니다. "열등한 금융"을 옹호하다 암호화폐 세계에서는 다양한 고위험 프로젝트에 투자하라고 설득하려는 끔찍한 주장들을 자주 접하게 됩니다. 때로는 어떤 프로젝트가 수조 달러 규모의 산업을 '파괴'(즉, 참여)한다거나, 이 프로젝트가 얼마나 독특하고 아무도 하지 않았던 일을 해낸다는 등 '훌륭하다'는 식으로 들립니다. 하지만 어떤 경우에는 그저 '유명인의 지지 덕분에 가격이 오를 것'이라는 식의 이야기도 나옵니다. 저는 사람들이 "재미있게 노는 것", 심지어 돈의 일부를 위험에 빠뜨리는 것까지 반대하지 않습니다. 제가 반대하는 것은 "인플루언서들이 분명히 오를 거라고 말하는" 토큰에 순자산의 절반을 투자하도록 부추기는 것입니다. 가장 현실적인 결과는 2년 후 토큰의 가치가 없어지는 것뿐인데 말입니다. 하지만 제가 더욱 반대하는 것은 이러한 투기성 토큰 게임이 "도덕적으로 정당하다"는 주장입니다. 가난한 사람들이 현대 경제에서 공정한 기회를 얻으려면 이처럼 빠른 10배 수익이 필요하기 때문입니다. 다음과 같은 주장처럼요. 순자산 5천 달러짜리 사람에게 '천천히 투자하고 인덱스 펀드에 투자하세요'라는 조언은 지옥 같은 조언입니다. 그들에게 필요한 것은 상향 이동성입니다. 고위험 고수익 투자에 도전해야 합니다. 암호화폐(밈코인)는 현대 사회에서 그들에게 그런 기회를 제공하는 유일한 곳입니다. 이건 끔찍한 주장입니다. 이를 반박하는 한 가지 방법은 다른 주장과 마찬가지로 '이것은 의미 있거나 유익한 사회적 이동성의 한 형태이다'라는 주장을 해체하고 기각하는 것입니다. 이 주장의 핵심은 카지노가 제로섬 게임이라는 것입니다. 대략적으로, 이 게임을 통해 사회적 계층이 상승하는 사람 한 명당, 다른 한 명은 사회적 계층이 하락하는 것입니다. 하지만 수학을 더 깊이 파고들면 상황은 더욱 악화됩니다. 표준 복지 경제학 교과서에서 가장 먼저 배우는 개념 중 하나는 돈에 대한 개인의 '효용 함수'가 오목하다는 것입니다. (원문에서는 실수로 '볼록'이라고 표현했지만, 도표와 문맥을 보면 저자는 '오목 함수'를 분명히 언급하고 있으며, 이는 '한계 효용 체감'을 의미합니다.) 따라서 부유할수록 1달러를 더 벌었을 때 얻는 '효용'(만족감)은 줄어듭니다. 돈이 많을수록(수평축) 곡선의 기울기(1달러당 가치)가 낮아진다는 점에 유의하세요. 이 모델은 중요한 결론을 내립니다. 무작위 동전 던지기(도박), 특히 고액 도박은 평균적으로 당신에게 '해롭다'는 것입니다. 10만 달러를 잃는 고통은 10만 달러를 따는 기쁨보다 큽니다. 현재 20만 달러를 가지고 있고, 재산이 두 배로 늘어날 때마다(즉, 100% 증가 또는 50% 감소) 사회 계층이 한 단계씩 올라가거나 내려가는 모델을 구축한다고 가정해 보겠습니다. 10만 달러 베팅에서 이기면(재산이 30만 달러가 되면) 사회 계층의 약 절반이 상승하지만, 내기에서 지면(재산이 10만 달러가 되면) 사회 계층 전체가 하락합니다. 인간의 의사 결정을 진정으로 연구하고 사람들의 삶을 개선하고자 노력하는 학자들이 만든 경제 모델은 거의 항상 이러한 결론에 도달합니다. 그렇다면 어떤 경제 모델이 정반대의 결론, 즉 10배의 수익을 위해 모든 것을 쏟아부어야 한다는 결론에 도달할까요? 정답은 바로, 투자 대상 암호화폐에 대한 좋은 이야기를 찾는 것을 목표로 하는 사람들이 만들어낸 이야기입니다. 제가 이 글을 쓰는 목적은 진정으로 가난하고 절박한 상황에서 탈출구를 찾고 있는 사람들을 비난하는 것이 아닙니다. 오히려, 재정적으로 넉넉한 사람들을 비난하는 것입니다. 그들은 "가난하고 절박한 사람들에게는 정말 10배가 필요하다"는 구실로 "가난한 사람들을 더 큰 곤경에 빠뜨리기 위해 함정을 파는" 행위를 정당화합니다. 이것이 제가 이더리움 생태계를 '저위험 DeFi'(DeFi, 탈중앙화 금융)에 집중하도록 부추겨 온 이유를 크게 설명합니다. 제3세계 사람들이 자국 통화의 정치적 붕괴에서 벗어나 제1세계의 (안정적인) 금리를 이용할 수 있도록 하는 것은 놀라운 일입니다. 이는 다른 사람들을 절벽으로 밀어내지 않고도 사람들이 사회 계층에서 상승하도록 기적적으로 도울 수 있습니다. 최근 누군가 제게 이렇게 질문했습니다. '저위험 DeFi' 대신 '좋은 DeFi'라고 하면 어떨까요? 결국 모든 고위험 DeFi가 나쁜 것은 아니고, 모든 저위험 DeFi가 좋은 것은 아닙니다. 제 답은 이렇습니다. '좋은 DeFi'에 집중한다면 누구나 쉽게 '틀에서 벗어난 사고'를 하고 특정 유형의 DeFi를 '좋다'고 주장할 수 있습니다. 하지만 '저위험 DeFi'라고 한다면, 이는 구속력 있는 범주가 됩니다. '틀에서 벗어난 사고'를 하고 하룻밤 사이에 사람들을 명백히 파산시키는 활동을 '저위험'이라고 부르는 것은 정말 어렵습니다. 고위험 DeFi의 존재 자체에 반대하는 것은 아닙니다. 저는 예측 시장(미래 사건의 결과에 베팅하는 플랫폼)을 지지합니다. 하지만 더 건강한 생태계는 저위험 DeFi가 주력이고 고위험 DeFi는 보조적인 요소인 것입니다. 즉, 재미있고 실험적인 것이지, 평생 저축의 절반을 걸게 하는 것이 아닙니다. 마지막 질문입니다. '예측 시장은 단순한 도박이 아니라 정확한 정보에 대한 접근성을 향상시켜 사회에 이롭다'는 견해는 그저 지나치게 상상력이 풍부하고 사후 분석에 기반한 합리화에 불과한 것일까요? 어떤 사람들은 분명히 그렇게 생각합니다. "예측 시장은 대학 교육을 받은 사람들이 '인지적 가치'와 '사회적 유용성'과 같은 용어를 사용하여 자신들이 도박에 불과하다는 사실을 은폐하는 점성술에 불과합니다." 제 변명을 좀 해보겠습니다. 이것이 '사후 합리화'가 아니라고 판단할 수 있는 이유는 예측 시장을 이해하고 이를 현실로 만들려는 학문적 전통이 30년 동안 이어져 왔기 때문입니다. 이는 누군가가 (프로젝트를 만들든 참여하든) 예측 시장을 통해 큰돈을 벌 가능성보다 훨씬 더 오랜 시간입니다. 이러한 '기존 학문적 전통'은 밈코인이나 개인 토큰과 같은 비주류 사례에는 없는 것입니다. 하지만 다시 한번 말씀드리지만, 예측 시장은 저위험 DeFi가 아니므로, 순자산의 절반을 투자할 수 있는 부가적인 요소가 아닙니다. 전력 극대화 AI 관련 '효과적 이타주의'(EA) 집단에는 많은 유력 인사들이 있는데, 그들에게 물어보면 그들의 전략은 최대한 많은 권력을 축적하는 것이라고 분명하게 말할 것입니다. 그들의 목표는 유리한 위치를 점유하여 '중요한 순간'이 왔을 때 전력을 다하고 막대한 자원을 투입하여 '옳은 일을 할' 수 있도록 하는 것입니다. '권력 극대화'는 궁극의 '깜짝 놀랄 만한' 전략입니다. 'X를 할 수 있도록 나에게 권력을 줘'라는 주장은 X가 무엇이든 똑같이 설득력이 있습니다. 그 '결정적 순간'(AI 종말론에서 이는 유토피아를 달성하거나 인류 전체가 죽어 종이 클립처럼 변하기 직전의 순간을 의미합니다) 이전에는 '이타적' 이유로 하는 행동과 '탐욕스러운 자기 확대'를 위한 행동이 완전히 똑같아 보입니다. 따라서 후자를 달성하려는 사람은 아무런 대가 없이 전자를 달성하기 위해 노력하고 있다고 말하며 스스로를 선한 사람이라고 설득할 수 있습니다. '외부 관점'(자신의 주관적인 감정에 의존하기보다는 유사한 상황의 통계 데이터를 참조하는 것을 강조하는 인지 편향 교정 방법)에서 보면, 이 주장은 명백히 터무니없습니다. 모든 사람은 자신이 다른 사람보다 더 도덕적이라고 믿기 때문에, 모두가 자신의 힘을 극대화하는 것이 순이익이라고 생각하더라도 실제로는 그렇지 않다는 것을 쉽게 알 수 있습니다. 하지만 '내부 관점'에서 세상을 둘러보고 소셜 미디어의 증오, 정치적 부패, 해킹, 그리고 다른 AI 기업들의 무분별한 행동을 본다면, '나는 선량한 사람이니, 부패한 외부 세계를 무시하고 스스로 문제를 해결해야 한다'는 생각이 분명 매력적으로 느껴질 것입니다. 바로 이것이 '외부 관점'을 채택하는 것이 건강한 이유입니다. 또는, 좀 더 겸손한 '내면의 관점'을 취할 수도 있습니다. '효과적 이타주의' 포럼에서 흥미로운 주장을 하나 소개합니다. 투자의 가장 큰 장점은 아마도 나중에 자선 활동에 사용할 수 있는 재정 자원을 기하급수적으로 늘릴 수 있다는 점일 것입니다. 1926년 설립 이후 S&P 500은 인플레이션을 감안한 연간 수익률 약 7%를 달성했습니다. '가치 편향' 위험은 예측하기 어렵지만, 중요한 요소입니다. 예를 들어, 여러 자료에 따르면 효과적 이타주의 공동체 구성원의 연평균 '가치 편향률'은 약 10%에 달하는 것으로 나타났습니다. 다시 말해, 당신의 재산이 매년 7%씩 증가할 수 있지만, 경험적 데이터에 따르면 오늘 어떤 대의를 믿는다면 내일은 그 믿음이 약 10% 감소할 수 있습니다. 이는 태너 그리어의 관찰과 일치합니다. 대중 지식인들은 보통 약 10~15년의 '유통기한'을 가지며, 그 후에는 그들의 아이디어가 주변의 소음보다 더 나을 수 없게 됩니다. (제가 2011년에 글을 쓰기 시작했다는 사실의 중요성에 대해서는 독자 여러분의 판단에 맡기겠습니다.) 따라서 '나중에 행동하기 위해' 부를 축적한다면, 미래의 당신은 그 부를 사용해서 지금은 감당하지도 못할 일을 할 가능성이 큽니다. "내부적으로 더 많은 일을 할 수 있어요" AI 보안 분야에서 반복적으로 나타나는 문제는 '권력 극대화'와 '숙명론'이 뒤섞인 문제입니다. 즉, AI 보안을 강화하는 가장 좋은 방법은 초지능 AI 구현을 가속화하는 기업에 합류하여 '내부적으로' 개선을 시도하는 것이라는 믿음입니다. 이와 관련하여 다음과 같은 합리화가 자주 제기됩니다. "OpenAI에 매우 실망했습니다. 저처럼 안전을 중시하는 직원이 더 필요합니다. OpenAI에 합류하여 내부에서 변화를 주도하겠다고 선언합니다." '내부적 관점'에서 보면 이는 타당해 보입니다. 하지만 '외부적 관점'에서 보면, 본질적으로 다음과 같습니다. 캐릭터 A: "이곳은 정말 끔찍해요." 캐릭터 B: "그럼 왜 아직 떠나지 않았어요?" 캐릭터 A: "내가 여기 남아서 상황이 더 악화되도록 해야지." 이러한 사상 학파의 또 다른 좋은 예는 현대 러시아의 정치 체제입니다. 파이낸셜 타임스의 다음 기사를 인용해 보겠습니다. 2월 24일, 푸틴 대통령이 돈바스 분리주의자들을 인정한 지 3일 만에 그는 우크라이나에 대한 전면 공세를 개시했는데, 이는 그들의 최악의 예상을 뛰어넘는 것이었습니다. 다른 나라들처럼 그들 역시 푸틴의 진짜 의도를 텔레비전을 통해서만 알게 되었습니다. 푸틴 대통령이 테크노크라트들의 경고를 무시한 것은 그들에게 큰 타격을 입혔습니다. 전쟁 초기에 그레프(스베르방크 CEO)를 만난 전직 임원은 이렇게 말했습니다. "그가 그런 모습을 본 적이 없습니다. 완전히 무너져 내리고 엄청난 충격을 받았습니다. '...' 모두가 재앙이라고 생각했는데, 그 누구보다도 그가 그렇게 생각했습니다.'... 러시아 정치 엘리트의 좁은 영역에서 그레프와 나비울리나(러시아 중앙은행 총재) 같은 테크노크라트들은 한때 푸틴의 '실로비키'(강경파 안보 기구의 간부들)에 맞서는 근대주의자이자 개혁파 세력으로 여겨졌지만, 개방 시장에 대한 신념을 수호하고 전쟁에 공개적으로 반대할 수 있는 역사적인 기회가 오자 물러섰습니다." 전직 관리들에 따르면, 이러한 테크노크라트들은 푸틴과 결별하기는커녕, 서방의 제재 영향을 완화하고 러시아의 전시 경제를 유지하기 위해 전문 지식과 수단을 활용하여 '조력자'로서의 역할을 공고히 했습니다. 마찬가지로, 문제는 "나는 내면적으로 더 많은 것을 할 수 있다"라는 말에서 비롯되며, "틀에 박힌 사고에서 벗어나는 것"을 거부하는 능력은 매우 낮습니다. 실제로 무엇을 하든 "나는 내면적으로 더 많은 것을 할 수 있다"라고 말하기는 항상 쉽습니다. 그래서 결국 당신은 기계의 톱니바퀴처럼, 당신 옆에 있는 톱니바퀴들과 같은 역할을 하게 됩니다. 매일 대저택과 비싼 저녁 식사로 가족을 부양하기 위해 일하는 사람들 말입니다. 다만 당신의 이유가 더 그럴듯하게 들릴 뿐입니다. 그러면, 어떻게 하면 '틀에 박힌 사고방식을 벗어나는 것'을 피할 수 있을까요? 여러분은 다양한 일을 할 수 있지만, 저는 두 가지에 집중하겠습니다. 원칙을 고수하다 '하고 싶지 않은' 일에 대해 엄격한 선을 그으세요. 무고한 사람을 죽이지 말고, 도둑질하지 말고, 속이지 말고, 다른 사람의 개인적 자유를 존중하세요. 그리고 모든 예외에 대해 매우 높은 기준을 설정하세요. 철학자들은 종종 이를 '의무론적 윤리'(결과보다는 의무와 규칙을 강조하는 윤리)라고 부릅니다. 의무론은 많은 사람을 혼란스럽게 합니다. 물론 규칙 뒤에 근본적인 이유가 있다면, 그 이유를 직접 따져봐야 하지 않겠습니까? 만약 '훔치지 않는 것'이 규칙이라면, 도둑질은 보통 당신에게 이로운 것보다 피해자에게 해로운 것이 더 많기 때문에 '훔치지 않는 것'이 규칙이라면, '이로운 것보다 해로운 일을 하지 않는 것'이라는 규칙을 따라야 합니다. 하지만 도둑질이 '해로운 것보다 이로운' 경우도 있다면, 도둑질하세요! 이러한 결과주의적 접근 방식(과정이 아닌 결과에만 집중하는 방식)의 문제점은 지나치게 상상력이 풍부한 사고를 억제할 능력이 전혀 없다는 것입니다. 우리의 뇌는 "이 특정 상황에서 당신이 (다른 이유로) 오랫동안 하고 싶어 했던 일이 우연히 모든 인류에게 큰 도움이 되었다"는 주장을 뒷받침할 근거를 만들어내는 데 매우 능숙합니다. 반면 의무론은 "아니요, 당신은 그렇게 할 수 없습니다"라고 말할 것입니다. 의무론의 한 형태는 규칙 공리주의입니다. 규칙은 가장 큰 이익을 가져오는 것에 따라 선택되지만, 구체적인 행동을 선택할 때는 이미 선택한 규칙을 따르기만 하면 됩니다. 올바른 "부담"을 "잡으세요". 위에서 언급한 또 다른 공통적인 주제는 당신의 행동이 종종 '인센티브'에 의해 결정된다는 것입니다. 암호화폐 용어로 '인센티브'란 당신이 어떤 '가방'을 가지고 있느냐를 의미합니다. (당신의 견해와 행동에 영향을 미치는 자산이나 포지션을 의미합니다.) 이러한 압박감은 저항하기 어렵습니다. 이를 피하는 가장 간단한 방법은 자신에게 좋지 않은 인센티브를 설정하지 않는 것입니다. 또 다른 필연적인 결론은 잘못된 사회적 짐, 즉 자신이 속한 사회적 관계에 집착하지 않는 것입니다. 사회적 짐 없이 지내려고 노력할 수는 없습니다. 그렇게 하는 것은 인간의 가장 기본적인 본능에 어긋나기 때문입니다. 하지만 적어도, 그 짐을 다양화할 수는 있습니다. 이를 위한 가장 간단한 단계는 자신의 물리적 위치를 현명하게 선택하는 것입니다. 이는 이미 과도하게 사용된 'AI 안전에 기여하는 방법'이라는 주제에 대한 저의 개인적인 제안을 떠올리게 합니다. - '첨단, 완전 자율 AI' 기능 개발을 가속화하는 회사에서 일하지 마세요. - 샌프란시스코 만 지역에 거주하지 않습니다