この記事は本当によく書かれています。AIを活用して解釈してみましょう（解釈は素晴らしく、直訳よりも分かりやすいです）。 こんにちは、みんな。 ネット上で、一方が雄弁に話し、さまざまな情報源を引用し、「とても知的」に聞こえる議論をよく目にしますが、常に「何かがおかしい」と不安を感じますか? そうですね。議論が複雑になればなるほど、「すべてを説明する」ほど、疑わしいものになることもあります。 イーサリアムの創設者であるヴィタリック・ブテリン氏は最近、この現象について具体的に論じた長文の記事を執筆しました。彼は「ギャラクシー・ブレイン・レジスタンス」という素晴らしい用語を生み出しました。 「ギャラクシー・ブレイン」とは、正常な脳が徐々に進化し、宇宙全体を照らす光り輝く脳へと変化していく様子を描いたミームです。考えすぎて単純な問題を複雑化し、最終的に不合理な結論に至る「賢い人々」を風刺するためによく使われます。 したがって、ヴィタリック・ブテリンが言及した「銀河脳抵抗」指数は、考え方や議論が「自分のやりたいこと」を正当化するために悪用されることがどれほど難しいかを測るものである。 この記事は、現代の最大の誤解の一つを暴露しているため、非常に重要です。私たちはいつも、議論とは真実を見つけることだと考えますが、ヴィタリック・ブテリン氏は、現実の世界では、ほとんどの派手な議論は「推論」ではなく「合理化」に関するものだと鋭く指摘しています。 どういう意味ですか？ つまり、多くの人はまず感情、直感、または自己利益（特定のコインを保有する、または特定のグループを嫌うなど）に基づいて結論を出し、次にその結論を裏付ける一見洗練された理由を見つけるために知性を総動員するのです。 この「まず撃って、それから標的を引きつける」というアプローチは、全く狂信的です。そして、「防御指数が低い」という主張は、彼らのお気に入りの武器です。なぜなら、それらは万能で、ほとんどあらゆるものの防御に使えるからです。 ヴィタリック・ブテリン氏は記事の中で、最も一般的かつ危険な「低防御指数」のマインドセットの罠をいくつか挙げています。では、それらがどのように「騙される」のかを見てみましょう。 罠1：「歴史的必然性」の罠 「これは遅かれ早かれ起こる運命だった。だから私たちはそれを止めるべきではなく、むしろ加速させるべきだ！」 Vitalik Buterin 氏は、シリコンバレーの AI 愛好家を例に挙げました。 彼らはこう言うでしょう。「経済の完全な自動化は『不可避』であり、人間の労働は段階的に廃止される運命にある。したがって、今こそこのプロセスを加速させるべきだ。」 それはとても理にかなっていると思いませんか？歴史の歯車は回り続けます。 しかし、ヴィタリック・ブテリンは私たちにこう思い出させます。「誰がそんなことを言ったのか？」 AIの開発とそこからの収益化に全力で取り組んでいる企業たちです。 これは「防衛指数が低い」という議論の典型的な例です。（おそらく）妥当な長期予測（「いずれ自動化されるだろう」）を「だから今それを加速させるべきだ」とすり替えているのです。 この議論はなぜそんなに悪いのでしょうか? 1. 諦めさせてしまう。抵抗しても無駄だと思わせる。しかし、ヴィタリック・ブテリンは全く逆のことを言う。「諦めろ、避けられないんだ」と誰もが言っている時こそ、抵抗が最も価値あるものになるのだ。 2. 他の選択肢が見えにくくなる。現実には、「全力を尽くす」か「停止する」かという選択肢以外にも選択肢はあります。人間に取って代わるAIではなく、人間を支援するAIの開発に注力することで、安全な移行のための時間を確保できたはずです。 3. 私利私欲に奉仕する。「必然性」は、彼らの真の動機である「利益と権力の追求」を隠すための、単なる見せかけに過ぎない。 罠2：「壮大な未来のために」という罠 「N年後の壮大な青写真のために / 未来の何兆人もの人々のために、私たちは今...」 Vitalik Buterin 氏は「長期主義」という言葉に言及しました。 まず第一に、ヴィタリック・ブテリンは長期的な思考に反対しているわけではないことは明らかです。道路の建設、子供たちの教育、そして老後のための貯蓄はすべて、必要かつ正しい「長期主義」の形態です。 彼は、濫用され「強迫観念的な」長期主義に反対している。例えば、「5億年後に生きているかもしれない40兆（！）の人々の幸福のために、私たちは今日のすべてをXXXに犠牲にしなければならない」といった考え方だ。 この罠の核心は、目標が遠すぎると「現実」から切り離されてしまうことです。 - プロジェクトが「次の四半期には利益が出るだろう」と言った場合、全員が次の四半期の結果を見て、それが真実か虚偽かが明らかになります。 しかし、あなたのプロジェクトが「500 年で世界を救うことができる」と言ったら、500 年後に誰が戻ってきてそれを検証するのでしょうか? これにより、ゲームの本質は変わりました。ゲームはもはや「誰が真の長期的な価値を創造できるか」ではなく、「誰が今日最も印象的な『長期的な物語』を語れるか」が問われるようになりました。 V 神は 2 つの素晴らしい例を挙げました。 1. 低金利環境におけるバブル：金利が非常に低い場合、お金は価値を失い、人々は短期的なリターンを気にしなくなります。そして人々は様々な「未来に関する物語」に必死に追いかけ、最終的にはバブルとその崩壊につながります。（「世界の歯科業界向けに設計されたブロックチェーンソリューション」を思い浮かべてみてください。） 2. 政治的な「どこにもつながらない橋」: 政治家は「長期的な価値」を理由に、誰も使うことのない橋を建設するために巨額の予算を要求する。 この罠をどう回避すればいいのでしょうか？ヴィタリック・ブテリンは、ある行動が「長期的な利益が疑わしい」が「短期的（または長期的）な害が確実にある」場合は、その行動を取らないというルールを提唱しています。 罠3：「これは社会や道徳に悪影響を及ぼす」という罠 「これは不快/不道徳/社会構造を損なうものであり、禁止されなければなりません！」 多くの人は、単に「我慢できない」という理由で、政府の強制力を使って他人の私生活を規制したがります。 例えば、「本物の肉は神によって創造されたものだが、人工肉は人間が作ったものだ。これは自然に反する！」と主張し、合成肉の禁止を求める人もいます。 しかし、「我慢できない」という理由はあまりにも単純すぎるため、彼らはそれを「防御指数が低い」という議論としてパッケージ化します。たとえば、 「これでは我々の道徳構造が破壊されてしまう！」 「これは社会の安定を脅かすことになる！」 「これは『グローバルエリート』によって私たちに押し付けられたのです！」 ヴィタリック・ブテリンは、「社会道徳構造」という言葉はあまりにも曖昧で、気に入らない新しいものすべてに反対するために使えるほどだと述べた。同性愛、新しい音楽、合成肉…これらはすべてこの言葉でラベル付けされている。 ヴィタリック・ブテリンはより穏健な形のリベラリズムに傾倒しており、何かを禁止したいのであれば、それが「明白な被害者」に明白な危害を及ぼしたという明白な証拠を提示しなければならないと主張している。 被害者が誰だったのか、どのような被害を受けたのかを明確に説明できない場合は、個人的な偏見を隠すために洗練された言葉を使用しているだけである可能性があります（「ただ嫌悪感を覚える」など）。 罠4：「これは貧困層/階級向上のためだ」という罠 「投機やギャンブルは悪いことではありません。それは貧しい人々が社会的地位向上を達成するための唯一の希望なのです！」 暗号通貨の世界では、リスクの高い投機を擁護するこのような声をよく耳にします。 この議論は非常に高尚で思いやりに満ちているように聞こえるが、ヴィタリック・ブテリン氏はそれが極めて「逸脱」だと考えている。 なぜ？ 1. 数学的に間違っている。カジノはゼロサムゲーム（あるいはマイナスサムゲーム）だ。貧しい人がカジノに行くと、より貧しくなる可能性が高い。経済学の基本（効用曲線）によれば、貧しい人にとって1万ドルを失うことは1万ドルを得ることよりもはるかに大きな打撃となる。このハイリスクなゲームは社会階級を「破壊」しているのであって、「向上」させているのではない。 2. その動機は不純だ。この主張の真の支持者は誰だろうか？彼らは往々にして既に富裕層であり、この「高尚な理由」を利用してより多くの人々（貧しい人々）を市場に誘い込み、保有株を売却して現金化しようとしている人々である。 ヴィタリック・ブテリン氏は、イーサリアムエコシステムの人々に「良質なDeFi」ではなく「低リスクのDeFi」に焦点を当てるよう一貫して促してきた。 なぜ「低リスク」という用語を使用するのでしょうか。それは、「低リスク」という基準は悪用されにくく、有効性があり、データからリスクの高低が明確にわかるからです。 しかし、「良い」という言葉はあまりにも簡単に誤用されてしまう。彼のハイリスクなカジノ計画がなぜ社会にとって「良い」のかを説明するために、「銀河脳」レベルの議論をでっち上げることは誰でもできるのだ。 罠5：「システム内でもっとできる」という罠 「私は、AIや腐敗を加速させているこの会社/政府に、内部から変えるために入社しました。」 これはヴィタリック・ブテリンによる最も痛烈な批判であり、彼はこれを「私は内部主義からより多くのことを行っている」と呼んでいる。 AIセキュリティの分野では、「『決定的な瞬間』に影響を与え、AIセキュリティを確保するために、最も先鋭的なAI企業に参入したい」という声が多く聞かれます。 現実政治では、「私は自分の専門知識を活かして経済へのダメージを軽減するためにプーチン政権に留まる」と言う人が多い。（V・ゴッドはロシアのテクノクラートに関するフィナンシャル・タイムズの記事を引用した。） V神はこれがほぼ最低の「迷走防止指数」だと考えています。 1. 「大衆に合わせる」ための完璧な言い訳になります。実際に何をしているかに関わらず、「私は物事を内側から変えるためにこれをやっている」と主張できます。 2. それはほとんどの場合、自己欺瞞です。現実は、最終的にはその機械の効率的な歯車に過ぎなくなり、あなたの専門スキルはすべて客観的に見て「共犯者」となり、あなたが反対していると主張する機械をさらにスムーズに動かすことになります。 では、どうすれば道に迷うことを防げるのでしょうか? V 神は 2 つの非常に実際的な提案をされました。 1. 原則を守る（常に「結果を計算する」ことを考えるのではなく）。 ヴィタリック・ブテリンは道徳の「義務論」を主張している。 この言葉を理解する必要はありません。それは単に、決して破らない厳格なルールを自分自身に決めることを意味します。例えば、「私は決して盗まない」「私は決して不正行為をしない」「私は決して罪のない人を殺さない」などです。 なぜこれが重要なのでしょうか? 別の種類の「結果理論」（「結果が良ければ、何をしてもいい」）のおかげで、道を誤るリスクは非常に低いのです。 私たちの脳は「合理化」に長けすぎています。「結果主義」を信じるなら、誘惑（例えば「この窃盗は莫大な利益をもたらす」など）に遭遇するたびに、「銀河脳」が即座に活性化し、「なぜこの窃盗は全人類の長期的な幸福に実際に有益なのか」を論証するでしょう。 いつでも自分自身を納得させることができます。 確固たる原則は、「賢くなりすぎる」ことに対する防火壁となります。 2. どのポケットがあるか把握する（適切なバッグを持つ） 暗号通貨のスラングでは、「バッグ」はあなたが保有する資産（「ポジション」）を指します。 ヴィタリック・ブテリンは、あなたの動機（あなたの立場）とあなたの社会的つながり（あなたの「社交界」）があなたの心を形作る最も強力な力であると述べています。 - 特定のコインを所有すると、それを客観的に見ることが難しくなります。 - 友達全員が AI は安全だと言ったら、AI が危険であると本当に信じることは難しいでしょう。 「ポケット」なしでは生きていけません (人はいつでも励ましと友達を必要とします)。しかし、少なくとも以下のことはできます。 1. 積極的に「ポケット」を選びましょう。判断力を歪めるようなインセンティブは避けましょう。 2. あなたの「ポケット」（リソース）、特にあなたの交友関係を多様化します。 これは、Vitalik Buterin 氏が AI セキュリティ専門家に向けて最後に 2 つのアドバイスとして挙げたものであり、これらの原則に対する彼自身のコミットメントも反映しています。 1. 「最先端AIによる完全自動化」の開発を加速させている企業には就職しない。（モチベーションを歪めてしまうため） 2. サンフランシスコ・ベイエリアに住まないこと。（社会保障の選択肢があまりにも限られているため） 要約 Vitalik Buterin 氏の記事は、表面的には AI、暗号通貨、政治について述べていますが、実際には複雑な世界で冷静さを保つための普遍的なガイドを提供しています。 最も危険な議論は、欠陥だらけの議論ではなく、むしろ、あまりにも柔軟で、あまりにも洗練されていて、どんな動機にも使える「普遍的な理由」である。 真の知恵とは、すべてを説明できる「銀河脳」を持つことではなく、「賢い」計算をやめて、単純で確実で珍しい原則に戻るタイミングを知ることです。
翻訳：「衝撃的な」アイデアの罠に抵抗する 思考や議論の質を判断する上で重要な基準は、私が「銀河脳抵抗」（単純な問題を過度に複雑化したり、一見高度な理論で誤った見解を裏付けようとする「賢い人々」を風刺するためによく使われるミーム）と呼ぶものに抵抗する能力です。それはどれほど悪用されにくいか？それを利用して、（他の理由で既にやりたいことを）「正当化」できるか？この精神は、科学における反証可能性（理論が科学的理論とみなされるためには、その誤りが証明されなければならない）に似ています。もしあなたの議論がすべてを証明できるなら、それは何も証明できないのです。 ステップ 2 で停止する必要があります。 「奔放な想像力に抵抗する」ことがなぜ重要なのかを理解するには、想像力が欠如したときに何が起こるかを見るのが一番簡単な方法です。おそらく、似たような発言をたくさん聞いたことがあるでしょう。 私たちは、顧客とサプライヤーのやり取りに革命をもたらし、クリエイターが視聴者をデジタル国家へと変革できる、まったく新しい分散型マーケットプレイスを構築しています。$$ ... 政治の世界では、状況はさらに悪化する可能性があります。例えば： （ある少数派集団は）現在進行中の社会混乱の多くに責任を負っており、私たちの資源を枯渇させてきました。もし彼らを完全に根絶することができれば（つまり、二度と戻ってこないようにすることができれば）、たとえそれが残酷で一時的な行為であったとしても、長期的には経済成長率を0.5%向上させることができれば、500年後には私たちの国は当時よりも12倍豊かになるでしょう。その結果、数え切れないほど多くの人々がより幸せで充実した人生を送ることができるでしょう。私たちが臆病で、この一時的な代償を払うことを恐れているというだけの理由で、私たちの子孫が極度の貧困に苦しむことを許すのは、甚だしい不正義です。 上記の議論を反駁するには、哲学の授業で数学の問題を解くように扱うのが一つの方法です。つまり、自分が同意できない前提や手順を具体的に特定し、それらを反駁するのです。しかし、より現実的なアプローチは、現実の世界ではこれらの議論はほとんど「推論」ではなく「合理化」（つまり、まず結論が提示され、その後にその根拠が示される）であることを認識することです。 これらの人々は、おそらく自己利益や感情（例えば、トークンを自ら蓄えている、あるいはその少数派グループを心から憎んでいるなど）に突き動かされて既に結論に達しており、その後、自らの立場を正当化するために、こうした巧妙な議論を捏造した。こうした巧妙な議論の目的は、(i) 発言者自身の「高次の思考」を欺き、「原始的な本能」に従わせること、そして (ii) 欺かれた人々だけでなく、自らを知的だと考える人々（あるいは、さらに悪いことに、真に知的だと考える人々）をも動員することで、自らの運動を強化しようとすることである。 本稿では、想像力豊かな思考に抵抗する能力の弱さは広く見られる現象であり、その影響は軽度から重度まで様々であると主張します。また、想像力豊かな思考に抵抗する強力な思考パターンをいくつか紹介し、それらの活用を推奨します。 「創造的思考に抵抗する」ことが苦手な思考パターン 必然主義 この最近のツイートを見てください。これはシリコンバレーの AI「擁護」のレトリックを完璧に表した好例です。 自動化に伴う大量失業は避けられません。それは避けられない経済の自然法則です。私たち（Mechanize Inc.）は、このプロセスに無駄に抵抗するのではなく、加速させ、スムーズな移行を実現することを目指しています。私たちと共に未来を築きましょう。 これは必然性の誤謬の典型的な例です。この投稿は（おそらくもっともな）「経済の完全な自動化はいずれ必ずや実現する」という一文で始まります。そして、すぐに結論へと飛びます。「私たちはその日（そしてそれに伴う人間の労働力の失業）を積極的に加速させるべきだ」と。なぜ積極的に加速させる必要があるのでしょうか？もちろん、誰もが知っています。このツイートは企業が書いたものであり、その企業の事業全体がそれを積極的に加速させているからです。 確かに「宿命論」は哲学的な誤りであり、哲学的に反駁することは可能です。もし私が反駁するとしたら、以下の3点に焦点を当てます。 宿命論は「無限に流動的な市場」の存在を過度に想定しがちです。つまり、もしあなたが何かをしなければ、誰かがすぐにその空白を埋めてしまうということです。これは一部の業界では当てはまるかもしれません。しかし、AIは全く逆です。AIの進歩の大部分は、ごく少数の個人や企業によって推進されているのです。たとえそのうちの一人でも、その進歩が止まれば、物事は著しく減速するでしょう。 - 宿命論は集団的意思決定の力を過小評価しています。個人や企業が意思決定を行うと、多くの場合、他者にとって模範となります。たとえ短期的には誰も従わなくても、後々さらなる行動の芽を育む可能性があります。何かに立ち向かうことは、「勇気ある姿勢を取る」こと自体が効果的であることを人々に思い出させることさえあります。 宿命論は選択肢を単純化しすぎている。メカナイズは経済の完全自動化を追求し続けることもできるし、閉鎖することもできる。しかし、方向転換して「部分的な自動化」の構築に注力し、まだプロセス段階にある人々を支援することで、「人間と機械の協働」が「純粋なAI」を上回る期間を最大限に延ばし、超知能への安全な移行のための時間を稼ぐこともできる。もちろん、私が検討していない他の選択肢もある。 しかし現実世界では、宿命論は純粋な論理では打ち負かすことができません。なぜなら、それは論理の産物として生み出されたものではないからです。私たちの社会において、宿命論の最も一般的な利用法は、人々が事後に（通常は政治権力や金銭の追求といった他の理由で）自分の行動を正当化できるようにすることです。この事実を理解すること自体が、宿命論に対抗する最良の方法となることがよくあります。他人があなたに「すべては取り返しがつかない」と信じ込ませ、諦めさせようとしている時こそ、あなたは最も有利な立場に立つことができるのです。 長期主義 「ロングターミズム」とは、遠い将来に重大な利害関係があることを重視する考え方です。今日では、多くの人がこの用語を「効果的利他主義」のロングターミズムと関連付けています。これは、80,000 Hours（効果的利他主義に関するキャリアアドバイス団体）の以下の紹介文にも見られます。 将来の人類人口の潜在的増加だけを考えても、この数字は驚異的です。今後5億年、毎年80億人ずつ増えていくと仮定すると、総人口は約400兆人に達します。そして、私たちが地球上に閉じ込められなくなった暁には、私たちが懸念すべき人口の潜在的増加は実に莫大なものとなります。 しかし、「長期的な視点に訴える」という概念はずっと古いものです。何世紀にもわたり、個人ファイナンシャルプランナー、経済学者、哲学者、植樹の最適な時期を議論する人々など、多くの人々が、未来のより大きな利益のために今日犠牲を払うことを呼びかけてきました。 私が「長期主義」を批判することにためらいを感じるのは、長期的な将来が本当に重要だからです。誰かが詐欺に遭ったからといって、ブロックチェーンをハードフォークすることはないでしょう。一時的な利益は確かにあるかもしれませんが、チェーンの評判を永久に失ってしまうからです。タイラー・コーエンが著書『Stubborn Attachments』で主張しているように、経済成長が重要なのは、それが将来にわたって消滅したり循環したりすることなく、確実に無期限に複利効果を生み出す数少ないものの一つだからです。子供たちには、その恩恵は10年後にあると教えましょう。「長期主義」を全く受け入れなければ、道路を建設することはできません。長期的な視点を欠くと、問題に直面することになります。私が個人的に反対している大きな問題の一つは、「技術的負債」（開発者が「近道」をとるために妥協し、将来的に余分な作業につながること）です。ソフトウェア開発者が短期的な目標のみに焦点を当て、一貫した長期的なビジョンを欠いている場合、結果としてソフトウェアは時間の経過とともにどんどん醜く、ゴミになってしまいます（「Ethereum L1 を簡素化するための私の取り組み」を参照）。 しかし、ここに落とし穴があります。「長期主義」の議論は、荒唐無稽な憶測に対して非常に抵抗力が低いのです。結局のところ、「長期」というのは遠い概念であり、「Xをすれば将来ほとんど何でも良いことが起こる」などと、ありとあらゆる美しい物語をでっち上げることは可能です。現実世界では、市場や政治の動向を観察すると、このアプローチの欠点が幾度となく明らかになります。 市場において、これら2つのモデルを区別する共通変数は「金利」です。金利が高い場合、明確な短期的な利益を生み出すプロジェクトのみが投資価値があります。しかし、金利が低い場合（「低金利環境」という言葉は今やよく知られた隠語となっています）、多くの人々が究極的には非現実的な「物語」を作り出し、それを追いかけるというシナリオが描かれ、バブルと暴落へと繋がります。 政治の世界では、政治家が有権者を喜ばせるために近視眼的な行動を取り、問題を隠蔽して次の選挙で再び表面化する、という批判がよく聞かれる。しかし、もう一つ問題がある。「行き止まりの橋」、つまり「長期的な価値」を理由に開始されたインフラプロジェクトが、その「価値」が実現されないという問題だ。 例としては、ラトビアの「どこにもつながらない橋」や、かつて時価総額が18億ドルを超えた「世界の歯科業界のためのブロックチェーンソリューション」であるデンタコインなどが挙げられます。 どちらのシナリオにも共通する根本的な問題は、長期的な未来を考えることで現実との乖離が生じてしまう可能性があることです。短期志向の環境では、長期的な視点を無視することはできますが、少なくともフィードバック機構は存在します。つまり、提案が短期的な利益を主張する場合、その利益が実際に短期的に実現するかどうかを誰もが確認できます。しかし、長期志向の環境では、「長期的な利益」に関する議論は必ずしも正しい必要はなく、正しく聞こえるだけで十分です。したがって、誰もが「長期的な価値に基づいてアイデアを選択する」というゲームをしていると主張していますが、実際には「しばしば不協和で非常に敵対的な社会環境において誰が勝つかに基づいてアイデアを選択する」というゲームをしているのです。 「漠然としているが長期的には非常に大きなプラスの結果」という話で何でも正当化できるのであれば、「漠然としているが長期的には非常に大きなプラスの結果」という話は何も証明していないことになります。 どうすれば、現実から乖離することなく、長期的な思考の恩恵を享受できるでしょうか？まず第一に、それは非常に難しいと言えるでしょう。しかし、それ以外にも、いくつか基本的な経験則があると信じています。最もシンプルなのは、「長期的な利益」の名の下に行っていることが、実際にその利益をもたらしていることを証明できる確固たる歴史的記録を持っているかどうかです。経済成長もそうです。種の絶滅を防ぐこともそうです。「世界単一政府」の樹立はそうではありません。実際、他の多くの例と同様に、その過程で繰り返された失敗と甚大な被害という「確固たる歴史的記録」があります。もしあなたが検討している行動が、推測上の「長期的な利益」を持ちながら、確実に「既知の長期的な害」をもたらすのであれば…実行すべきではありません。このルールは常に当てはまるわけではありません。なぜなら、私たちは本当に前例のない時代に生きているからです。しかし、「私たちは本当に前例のない時代に生きている」という言葉自体が、突飛な考えに抵抗することを非常に困難にしていることを忘れてはなりません。 「個人的な美的感覚」を口実に物事を禁止する ウニは気持ち悪い。ウニの生殖巣を食べるんだから。おまかせ（日本のメニューのない料理）では、ウニが目の前に突きつけられることもある。それでも、禁止には反対だ。これは原則の問題だ。 私が嫌悪する行為の一つは、政府の強制力を利用して、究極的には「個人の美的嗜好」に過ぎないものを、他の何百万もの人々の私生活に押し付けることです。美的感覚を持つことは良いことです。公共環境を設計する際に美的感覚を考慮することも良いことです。しかし、自分の美的感覚を他人の私生活に押し付けることは決して許されません。他人に押し付けるコストは、自分の心理的利益をはるかに上回ります。もし誰もがそうしたいと思えば、それは必然的に文化的覇権、あるいは「万人対万人の政治戦争」につながるでしょう。 「えっと、これは気持ち悪いと思うんです」といった陳腐な言い訳で、政治家が同性愛禁止を推進する例は、ほぼ当たり前のことのように容易に想像できます。様々な反同性愛運動がその好例です。例えば、サンクトペテルブルク下院議員のヴィタリー・ミロノフ氏は次のように述べています。 LGBTの人々（ゲイ、バイセクシュアル、トランスジェンダーの人々）には権利がありません。我が国では、彼らの権利は社会的に重要な保護対象リストに含まれていません。これらのいわゆる「変質者」は、我が国の国民として持つすべての権利を有しているにもかかわらず、何らかの「拡張されたトップレベルリスト」には含まれていません。我々は、彼らを我が国の人権問題リストから永久に削除します。 ウラジーミル・プーチン自身も、アメリカには「悪魔主義」が強すぎると非難することでウクライナ侵攻を正当化しようとした。より最近の、少し異なる例としては、アメリカによる「合成肉」禁止運動が挙げられる。 「培養肉」は肉ではありません…人工的に作られたものです。本物の肉は神自身が創造したものです…本当に「窒素タンパク質ペースト」を試してみたいなら、カリフォルニアへ行ってください。 しかし、より「文明的な」アプローチをとる人の方がはるかに多く、何らかの言い訳で嫌悪感を隠そうとします。よくある言い訳は「社会の道徳観」「社会の安定」などです。こうした議論は「検閲」を正当化するためにも頻繁に用いられます。 何が問題なのでしょうか？スコット・アレクサンダー氏（合理性やAIといったテーマについて詳細な記事を執筆する有名ブロガー）にこの質問に答えてもらいましょう。 「ゆるやかな危害の原理」とは、政府が複雑で間接的な危害、つまり「社会の道徳的構造を弱める」ような危害に対して怒りを抱くことがあるという考えを指します。しかし、「ゆるやかな危害の原理」の存在を容認することは、「自由主義」が防ぐべきだった「他者を支配しようとする」古代の戦争を復活させることに等しいのです。ある人はこう言います。「同性婚は同性愛をより広く容認することにつながり、性感染症の発生率を高める！これは危害だ！同性婚を禁止しなければならない！」別の人はこう言います。「子供たちを私立学校に通わせることを許可すると、子供たちが宗教系の学校で反同性愛感情を広め、将来ヘイトクライムを犯す原因となる可能性がある！これは危害だ！私立学校を禁止しなければならない！」こうしてこの悪循環は永遠に続くのです。 「社会道徳構造」は確かに存在します。ある社会が他の社会よりも多くの点で道徳的であることは明らかです。しかし、それは曖昧で定義が曖昧であるため、非常に悪用されやすく、ほとんど何でも「社会道徳構造への違反」とレッテルを貼られてしまう可能性があります。科学や医学の進歩に壊滅的な打撃を与えてきた「嫌悪の知恵」へのより直接的な訴えにも同じことが当てはまります。また、「気に入らないから禁止する」という新たな言説にも当てはまります。よくある例として、「グローバルエリート」との闘いや「ローカル文化」の擁護が挙げられます。 合成肉反対派の発言をいくつか見てみましょう（これらの人々は、なぜ自分たちが合成肉を食べないのかを説明しているのではなく、なぜ自分たちの選択を他人に強制的に受け入れさせたいのかを説明しているのです）。 > 「グローバルエリート」は私たちの行動をコントロールし、アメリカ人に「石油の肉とミミズ」の食事を受け入れるよう強制したいのです。 フロリダ州は「ノー」と言っている。私はSB1084に署名したことを誇りに思う。この法案は、フロリダ州から培養肉を排除し、エリート層や世界経済フォーラムの思惑ではなく、農家や牧場主の保護を優先するものだ。 ビル・ゲイツと一緒に虫を食べるのが好きな人もいるかもしれないが、私はそうではない。 これが、私が穏健なリバタリアニズム（個人の自由と限定された政府を重視する政治哲学）に大いに共感する主な理由です。何かを禁止する際には、特定の被害者に明確な危害やリスクをもたらすという明確な説明が必要であり、その説明が裁判で認められれば、その法律は廃止されるべきである社会に住みたいと考えています。そうすれば、政府が（利益団体に）乗っ取られ、他者の私生活に文化的優遇を押し付けたり、万人が万人に対して戦争を起こしたりする可能性が大幅に低くなります。 「劣悪な金融」を擁護する 仮想通貨の世界では、様々なハイリスクなプロジェクトへの投資を勧める、ひどい言い訳をよく耳にします。中には、あるプロジェクトが1兆ドル規模の業界を「破壊する」（つまり、その業界に参入する）とか、このプロジェクトが他に類を見ないユニークなもので、誰も成し遂げていないことを実現しているといった、一見「素晴らしい」話に聞こえるものもあります。しかし、単に「有名人の支持があるから価格が上がる」というだけの場合もあります。 人々が「楽しむ」こと、つまり多少の資金を危険にさらすこと自体に反対はしません。私が反対するのは、「インフルエンサーが確実に値上がりすると言っている」トークンに、純資産の半分を投資するよう促されることです。最も現実的な結果は、そのトークンが2年後には価値がなくなることです。しかし、私がさらに反対するのは、貧しい人々が現代経済で公平なチャンスを得るために、このような短期間で10倍の利益を得る必要があるから、こうした投機的なトークンゲームは「道徳的に正しい」という主張です。例えば、次のような主張です。 純資産5,000ドルの人にとって、『ゆっくり投資してインデックスファンドに投資しろ』というのは、まさに地獄のようなアドバイスだ。彼らに必要なのは、上昇志向だ。ハイリスク・ハイリターンの投資に挑戦する必要がある。現代において、仮想通貨（ミームコイン）こそが、彼らにその機会を与えてくれる唯一の存在なのだ。 これはひどい議論です。反論する方法の一つは、他の議論と同様に、「これは社会移動の有意義で有益な形態である」という主張を解体し、否定することです。 この議論の核心は、カジノがゼロサムゲームであるということです。大まかに言えば、このゲームを通じて社会階級が上がる人が一人いれば、社会階級が下がる人が一人いるということです。 しかし、数学的に深く掘り下げていくと、状況はさらに悪化します。標準的な福祉経済学の教科書で最初に学ぶ概念の一つは、お金に対する人の「効用関数」が凹型であるということです（原文では誤って凸型と表現されていますが、図と文脈から、著者は明らかに「凹関数」、つまり「限界効用逓減」を指しています。ここでは直訳します）。裕福であればあるほど、1ドル増えるごとに得られる「効用」（満足度）は少なくなります。 持っているお金（水平軸）が増えるほど、曲線の傾き（1 ドルあたりの価値）が低くなることに注意してください。 このモデルには重要な結論があります。それは、ランダムなコイン投げ（ギャンブル）、特に高額賭けは、平均して「有害」であるということです。10万ドルを失う痛みは、10万ドルを得る喜びよりも大きいのです。現在20万ドルを保有していて、資産が倍増するごとに（つまり、100%増加または50%減少するごとに）社会階級が1つ上昇または下降するというモデルを構築するとします。10万ドルの賭けに勝った場合（資産が30万ドルになった場合）、社会階級は約半分上昇しますが、賭けに負けた場合（資産が10万ドルになった場合）、社会階級は1つ下降します。 人間の意思決定を真摯に研究し、人々の生活の向上を目指す学者によって構築された経済モデルは、ほぼ常にこの結論に達します。では、10倍のリターンを追求するために全力を尽くすべきだという、正反対の結論に達する経済モデルとは一体どのようなものでしょうか？答えは、投機対象の暗号通貨に都合の良いストーリーを見つけることを目的とする人々によって捏造されたストーリーです。 ここで私が言いたいのは、本当に貧しく絶望し、出口を探している人々を非難することではありません。むしろ、経済的に恵まれているにもかかわらず、「貧しく絶望している人々は本当に10倍のお金を必要としている」という口実で、「貧しい人々をさらに深刻な窮地に誘い込むための罠を仕掛ける」という行為を正当化している人々を非難したいのです。 これが、私がイーサリアムエコシステムを「低リスクDeFi」（DeFi、分散型金融）に焦点を当てるよう推進してきた理由の大部分を説明しています。第三世界の人々が自国通貨の政治的崩壊から逃れ、先進国の（安定した）金利にアクセスできるようにすることは素晴らしいことです。それは、他の人々を崖っぷちに突き落とすことなく、人々の社会階層の向上を奇跡的に助けることができます。最近、ある人にこう聞かれました。「なぜ「低リスクDeFi」ではなく「良いDeFi」と言わないのですか？」結局のところ、すべての高リスクDeFiが悪いわけではなく、すべての低リスクDeFiが良いわけでもありません。私の答えは、「良いDeFi」に焦点を当てれば、誰もが簡単に「既成概念にとらわれずに」、特定のタイプのDeFiが「良い」と主張できるようになります。しかし、「低リスクDeFi」と言うと、それは拘束力のあるカテゴリーになります。「既成概念にとらわれずに」、明らかに人々を一夜にして破産させるような活動を「低リスク」と呼ぶのは非常に難しいのです。 ハイリスクなDeFiの存在に反対しているわけではありません。結局のところ、私は予測市場（将来の出来事の結果に賭けるプラットフォーム）のファンです。しかし、より健全なエコシステムとは、低リスクのDeFiがメインコースで、ハイリスクのDeFiがサイドディッシュのような存在、つまり、生涯の貯蓄の半分を賭けるようなものではなく、楽しく実験的な存在であるべきでしょう。 最後の疑問：「予測市場は単なるギャンブルではなく、正確な情報へのアクセスを向上させることで社会に利益をもたらす」という見解は、単なる空想的で後知恵に基づいた合理化に過ぎないのでしょうか？確かにそう考える人もいます。 「予測市場は、大学教育を受けた男たちが「認知価値」や「社会的効用」といった言葉を使って、自分たちが単なるギャンブルであるという事実を隠そうとしているだけの、単なる占星術に過ぎない。」 弁解させてください。これを「事後的な合理化」ではないと判断できる理由は、予測市場を評価し、それを実現しようと試みる学術的伝統が30年も前から存在しているからです。これは、誰かが予測市場で大金を稼ぐ可能性（プロジェクトの立ち上げであれ、参加であれ）よりもはるかに長い期間です。この「既存の学術的伝統」は、ミームコインや、さらにマイナーな個人トークンのような例には見られません。しかし、繰り返しますが、予測市場は低リスクのDeFiではないため、あくまでもサイドディッシュであり、純資産の半分を賭けるようなものではありません。 電力最大化 AI関連の「効果的利他主義」（EA）界隈には、多くの権力者がいます。彼らに尋ねれば、彼らの戦略は可能な限り多くの権力を蓄積することだと明言するでしょう。彼らの目標は、有利な立場を占め、「決定的な瞬間」が訪れた際に、全力と莫大な資源を投入して「正しいことを行う」ことです。 「権力の最大化」は究極の「衝撃的な」戦略です。「Xができるように権力を与えてください」という主張は、Xが何であれ、同じように説得力があります。その「決定的瞬間」（AI終末論では、ユートピアが実現するか、全人類が死滅してペーパークリップになるかのどちらかの直前の瞬間を指します）に達するまでは、「利他的な」理由による行動は、「貪欲な自己拡大」のための行動と全く同じように見えます。したがって、後者を達成しようとしている人は誰でも、何のコストもかけずに、前者を達成しようとしているとあなたに言い、自分が善良な人間であることを納得させることができます。 「外部視点」（自身の主観的な感情に頼るのではなく、類似の状況からの統計データを参照することを重視する認知バイアス修正方法）から見ると、この議論は明らかに不合理です。誰もが自分は他人よりも道徳的だと信じているので、たとえ誰もが自分の力を最大化することが純益だと信じていても、実際にはそうではないことは容易にわかります。しかし、「内部視点」から世界を見渡し、ソーシャルメディア上の憎悪、政治腐敗、ハッキング、他のAI企業の抑制されない行動を見ると、「私は善人だ。この腐敗した外の世界を無視して、自分で問題を解決するべきだ」という考えは確かに魅力的に感じられます。そして、まさにこれが、「外部視点」を採用することが健全である理由です。 あるいは、もっと謙虚な「内なる視点」を持つこともできます。「効果的な利他主義」フォーラムで興味深い議論がありました。 投資の最大の利点は、おそらく、後に慈善活動に活用できる資金を飛躍的に増やすことができる点にあると言えるでしょう。1926年の創設以来、S&P 500は年率約7%のインフレ調整後リターンを達成しています。…「価値ドリフト」のリスクは予測が難しいものの、重要な要素です。例えば、効果的な利他主義コミュニティ内の個人における年間平均「価値ドリフト率」は約10%であることが、様々な情報源から一貫して示されています。 言い換えれば、確かに資産は年間7%増加するかもしれませんが、経験的データによれば、今日ある大義を信じているとしても、明日にはその信念が約10%低下する可能性があるということです。これは、タナー・グリアの観察とも一致しています。つまり、知識人の「賞味期限」は10～15年程度であり、それを過ぎると彼らの考えはもはや周囲の雑音よりも優れているとは言えなくなります（私が2011年に執筆活動を開始したことの重要性については、読者の判断に委ねます）。 したがって、「後で行動する」ために富を蓄積すると、将来の自分がその余分な富を使って、今の自分では支持できないようなことをする可能性があります。 「社内でもっとできることがある」 AIセキュリティの分野では、「パワー最大化」と「宿命論」が混在する問題が繰り返し発生しています。つまり、AIセキュリティを向上させる最善の方法は、超知能AIの実現を加速させている企業に加わり、「内部から」改善を図ることだという考え方です。ここでは、次のような合理化がよく見られます。 OpenAIには非常に失望しています。私のような安全意識の高い従業員がもっと必要です。内部から変革を起こすために、OpenAIに加わることを表明します。 「内部の視点」から見ると、これは合理的に思えます。しかし、「外部の視点」から見ると、本質的には次のようになります。 キャラクターA：「ここはひどい場所だ。」 キャラクターB：「では、なぜまだ出発しないのですか？」 登場人物A：「私はここに留まって、事態が悪化するのを見届けなければならない。」 この学派のもう一つの良い例は、現代ロシアの政治システムです。ここでフィナンシャル・タイムズの記事を引用したいと思います。 プーチン大統領がドンバス分離主義者の存在を認めてから3日後の2月24日、彼はウクライナに対する全面攻撃を開始した。これはウクライナ側の最悪の予想をはるかに超えるものだった。世界各国と同様に、ウクライナ側もプーチン大統領の真意をテレビを通じて初めて知った。プーチン大統領がテクノクラートの警告に耳を貸さなかったことは、ウクライナにとって大きな打撃となった。戦争初期にズベルバンクCEOのグレフ氏に会った元幹部は、「あんな風貌の彼を見たことがなかった。完全に打ちのめされ、極度のショックを受けていた。誰もがこれは大惨事だと思っていたが、彼は誰よりもそう思っていた」と語った。ロシアの政治エリート層の狭いサークルでは、かつてプーチン大統領の「シロヴィキ」（強硬派の安全保障機関幹部）に対抗する近代主義者・改革派とみなされていたグレフ氏やナビウリナ氏（ロシア中央銀行総裁）のようなテクノクラートたちが、自由市場への信念を守り、戦争に公然と反対する歴史的な機会に直面して撤退したのだ。元当局者によると、これらのテクノクラートたちはプーチン大統領と決別するどころか、専門知識と手段を用いて西側諸国の制裁の影響を緩和し、ロシアの戦時経済を維持する「支援者」としての役割を強固なものにしている。 同様に、問題は「社内でもっとできる」というフレーズにあり、「既成概念にとらわれない発想」に抵抗する能力は驚くほど低い。実際に何をしているかに関わらず、「社内でもっとできる」と言うのは簡単だ。結局、あなたは機械の歯車の一つに過ぎず、隣にいる歯車たちと同じ役割を担っている。大邸宅と豪華なディナーで家族を養うために毎日働いている人たちだ。ただ、あなたの理由の方が聞こえが良いだけだ。 では、「既成概念にとらわれない考え方」を避けるにはどうすればよいのでしょうか? さまざまなことができますが、ここでは 2 つに焦点を当てます。 原則に従う 「やりたくないこと」については明確な線引きをしましょう。罪のない人を殺さない、盗まない、騙さない、他人の個人の自由を尊重するなどです。そして、例外については極めて高い基準を設けましょう。 哲学者はしばしばこれを「義務論的倫理」（結果よりも義務と規則を重視する）と呼びます。義務論は多くの人を困惑させます。当然のことながら、ルールの背後に根本的な理由があるのであれば、その理由を直接追求すべきではないでしょうか？「盗まない」というルールが、盗むことは通常、被害者に利益よりも害を与えるからというのであれば、「善よりも害をもたらすことをしない」というルールに従うべきです。しかし、盗むことが「害よりも利益」をもたらす場合もあるのであれば、盗めばいいのです！ この結果主義的なアプローチ（プロセスではなく結果のみに焦点を当てる）の問題は、非常に想像力豊かな思考に全く抵抗できないことです。私たちの脳は、「この特定の状況において、あなたが（他の理由で）ずっとやりたいと思っていたことが、たまたま全人類にとって大きな利益になる」と主張するための理由を巧みに作り上げます。一方、義務論はこう言います。「いいえ、それはできません」。 義務論の 1 つの形式は規則功利主義です。規則は最大の利益をもたらすものに基づいて選択されますが、特定のアクションを選択する際には、すでに選択した規則に従うだけです。 正しい「重荷」を「把握」する。 上で述べたもう一つの共通点は、あなたの行動はしばしば「インセンティブ」によって決定されるということです。暗号通貨の専門用語で言えば、あなたがどんな「バッグ」（あなたが保有する資産やポジションを指し、それがあなたの考え方や行動に影響を与えます）を持っているかということです。このプレッシャーに抵抗するのは困難です。これを避ける最も簡単な方法は、自分自身に悪いインセンティブを設定しないようにすることです。 もう一つの帰結は、間違った社会的な重荷、つまり自分が属する社会的な輪に執着しないようにすることです。社会的な重荷から逃れようとすることは不可能です。そうすることは、人間の最も基本的な本能に反するからです。しかし、少なくとも、それらを多様化することは可能です。そのための最も簡単な方法は、物理的な居住地を賢く選ぶことです。 これは、「AI の安全性にどのように貢献するか」という、すでに使い古された話題に関する私の個人的な提案を思い出させます。 - 「最先端の完全自律型 AI」機能の開発を加速している企業で働かないでください。 - サンフランシスコベイエリアに住んでいない