宝玉（@dotey）のスレッド

翻訳：「衝撃的な」アイデアの罠に抵抗する 思考や議論の質を判断する上で重要な基準は、私が「銀河脳抵抗」（単純な問題を過度に複雑化したり、一見高度な理論で誤った見解を裏付けようとする「賢い人々」を風刺するためによく使われるミーム）と呼ぶものに抵抗する能力です。それはどれほど悪用されにくいか？それを利用して、（他の理由で既にやりたいことを）「正当化」できるか？この精神は、科学における反証可能性（理論が科学的理論とみなされるためには、その誤りが証明されなければならない）に似ています。もしあなたの議論がすべてを証明できるなら、それは何も証明できないのです。 ステップ 2 で停止する必要があります。 「奔放な想像力に抵抗する」ことがなぜ重要なのかを理解するには、想像力が欠如したときに何が起こるかを見るのが一番簡単な方法です。おそらく、似たような発言をたくさん聞いたことがあるでしょう。 私たちは、顧客とサプライヤーのやり取りに革命をもたらし、クリエイターが視聴者をデジタル国家へと変革できる、まったく新しい分散型マーケットプレイスを構築しています。$$ ... 政治の世界では、状況はさらに悪化する可能性があります。例えば： （ある少数派集団は）現在進行中の社会混乱の多くに責任を負っており、私たちの資源を枯渇させてきました。もし彼らを完全に根絶することができれば（つまり、二度と戻ってこないようにすることができれば）、たとえそれが残酷で一時的な行為であったとしても、長期的には経済成長率を0.5%向上させることができれば、500年後には私たちの国は当時よりも12倍豊かになるでしょう。その結果、数え切れないほど多くの人々がより幸せで充実した人生を送ることができるでしょう。私たちが臆病で、この一時的な代償を払うことを恐れているというだけの理由で、私たちの子孫が極度の貧困に苦しむことを許すのは、甚だしい不正義です。 上記の議論を反駁するには、哲学の授業で数学の問題を解くように扱うのが一つの方法です。つまり、自分が同意できない前提や手順を具体的に特定し、それらを反駁するのです。しかし、より現実的なアプローチは、現実の世界ではこれらの議論はほとんど「推論」ではなく「合理化」（つまり、まず結論が提示され、その後にその根拠が示される）であることを認識することです。 これらの人々は、おそらく自己利益や感情（例えば、トークンを自ら蓄えている、あるいはその少数派グループを心から憎んでいるなど）に突き動かされて既に結論に達しており、その後、自らの立場を正当化するために、こうした巧妙な議論を捏造した。こうした巧妙な議論の目的は、(i) 発言者自身の「高次の思考」を欺き、「原始的な本能」に従わせること、そして (ii) 欺かれた人々だけでなく、自らを知的だと考える人々（あるいは、さらに悪いことに、真に知的だと考える人々）をも動員することで、自らの運動を強化しようとすることである。 本稿では、想像力豊かな思考に抵抗する能力の弱さは広く見られる現象であり、その影響は軽度から重度まで様々であると主張します。また、想像力豊かな思考に抵抗する強力な思考パターンをいくつか紹介し、それらの活用を推奨します。 「創造的思考に抵抗する」ことが苦手な思考パターン 必然主義 この最近のツイートを見てください。これはシリコンバレーの AI「擁護」のレトリックを完璧に表した好例です。 自動化に伴う大量失業は避けられません。それは避けられない経済の自然法則です。私たち（Mechanize Inc.）は、このプロセスに無駄に抵抗するのではなく、加速させ、スムーズな移行を実現することを目指しています。私たちと共に未来を築きましょう。 これは必然性の誤謬の典型的な例です。この投稿は（おそらくもっともな）「経済の完全な自動化はいずれ必ずや実現する」という一文で始まります。そして、すぐに結論へと飛びます。「私たちはその日（そしてそれに伴う人間の労働力の失業）を積極的に加速させるべきだ」と。なぜ積極的に加速させる必要があるのでしょうか？もちろん、誰もが知っています。このツイートは企業が書いたものであり、その企業の事業全体がそれを積極的に加速させているからです。 確かに「宿命論」は哲学的な誤りであり、哲学的に反駁することは可能です。もし私が反駁するとしたら、以下の3点に焦点を当てます。 宿命論は「無限に流動的な市場」の存在を過度に想定しがちです。つまり、もしあなたが何かをしなければ、誰かがすぐにその空白を埋めてしまうということです。これは一部の業界では当てはまるかもしれません。しかし、AIは全く逆です。AIの進歩の大部分は、ごく少数の個人や企業によって推進されているのです。たとえそのうちの一人でも、その進歩が止まれば、物事は著しく減速するでしょう。 - 宿命論は集団的意思決定の力を過小評価しています。個人や企業が意思決定を行うと、多くの場合、他者にとって模範となります。たとえ短期的には誰も従わなくても、後々さらなる行動の芽を育む可能性があります。何かに立ち向かうことは、「勇気ある姿勢を取る」こと自体が効果的であることを人々に思い出させることさえあります。 宿命論は選択肢を単純化しすぎている。メカナイズは経済の完全自動化を追求し続けることもできるし、閉鎖することもできる。しかし、方向転換して「部分的な自動化」の構築に注力し、まだプロセス段階にある人々を支援することで、「人間と機械の協働」が「純粋なAI」を上回る期間を最大限に延ばし、超知能への安全な移行のための時間を稼ぐこともできる。もちろん、私が検討していない他の選択肢もある。 しかし現実世界では、宿命論は純粋な論理では打ち負かすことができません。なぜなら、それは論理の産物として生み出されたものではないからです。私たちの社会において、宿命論の最も一般的な利用法は、人々が事後に（通常は政治権力や金銭の追求といった他の理由で）自分の行動を正当化できるようにすることです。この事実を理解すること自体が、宿命論に対抗する最良の方法となることがよくあります。他人があなたに「すべては取り返しがつかない」と信じ込ませ、諦めさせようとしている時こそ、あなたは最も有利な立場に立つことができるのです。 長期主義 「ロングターミズム」とは、遠い将来に重大な利害関係があることを重視する考え方です。今日では、多くの人がこの用語を「効果的利他主義」のロングターミズムと関連付けています。これは、80,000 Hours（効果的利他主義に関するキャリアアドバイス団体）の以下の紹介文にも見られます。 将来の人類人口の潜在的増加だけを考えても、この数字は驚異的です。今後5億年、毎年80億人ずつ増えていくと仮定すると、総人口は約400兆人に達します。そして、私たちが地球上に閉じ込められなくなった暁には、私たちが懸念すべき人口の潜在的増加は実に莫大なものとなります。 しかし、「長期的な視点に訴える」という概念はずっと古いものです。何世紀にもわたり、個人ファイナンシャルプランナー、経済学者、哲学者、植樹の最適な時期を議論する人々など、多くの人々が、未来のより大きな利益のために今日犠牲を払うことを呼びかけてきました。 私が「長期主義」を批判することにためらいを感じるのは、長期的な将来が本当に重要だからです。誰かが詐欺に遭ったからといって、ブロックチェーンをハードフォークすることはないでしょう。一時的な利益は確かにあるかもしれませんが、チェーンの評判を永久に失ってしまうからです。タイラー・コーエンが著書『Stubborn Attachments』で主張しているように、経済成長が重要なのは、それが将来にわたって消滅したり循環したりすることなく、確実に無期限に複利効果を生み出す数少ないものの一つだからです。子供たちには、その恩恵は10年後にあると教えましょう。「長期主義」を全く受け入れなければ、道路を建設することはできません。長期的な視点を欠くと、問題に直面することになります。私が個人的に反対している大きな問題の一つは、「技術的負債」（開発者が「近道」をとるために妥協し、将来的に余分な作業につながること）です。ソフトウェア開発者が短期的な目標のみに焦点を当て、一貫した長期的なビジョンを欠いている場合、結果としてソフトウェアは時間の経過とともにどんどん醜く、ゴミになってしまいます（「Ethereum L1 を簡素化するための私の取り組み」を参照）。 しかし、ここに落とし穴があります。「長期主義」の議論は、荒唐無稽な憶測に対して非常に抵抗力が低いのです。結局のところ、「長期」というのは遠い概念であり、「Xをすれば将来ほとんど何でも良いことが起こる」などと、ありとあらゆる美しい物語をでっち上げることは可能です。現実世界では、市場や政治の動向を観察すると、このアプローチの欠点が幾度となく明らかになります。 市場において、これら2つのモデルを区別する共通変数は「金利」です。金利が高い場合、明確な短期的な利益を生み出すプロジェクトのみが投資価値があります。しかし、金利が低い場合（「低金利環境」という言葉は今やよく知られた隠語となっています）、多くの人々が究極的には非現実的な「物語」を作り出し、それを追いかけるというシナリオが描かれ、バブルと暴落へと繋がります。 政治の世界では、政治家が有権者を喜ばせるために近視眼的な行動を取り、問題を隠蔽して次の選挙で再び表面化する、という批判がよく聞かれる。しかし、もう一つ問題がある。「行き止まりの橋」、つまり「長期的な価値」を理由に開始されたインフラプロジェクトが、その「価値」が実現されないという問題だ。 例としては、ラトビアの「どこにもつながらない橋」や、かつて時価総額が18億ドルを超えた「世界の歯科業界のためのブロックチェーンソリューション」であるデンタコインなどが挙げられます。 どちらのシナリオにも共通する根本的な問題は、長期的な未来を考えることで現実との乖離が生じてしまう可能性があることです。短期志向の環境では、長期的な視点を無視することはできますが、少なくともフィードバック機構は存在します。つまり、提案が短期的な利益を主張する場合、その利益が実際に短期的に実現するかどうかを誰もが確認できます。しかし、長期志向の環境では、「長期的な利益」に関する議論は必ずしも正しい必要はなく、正しく聞こえるだけで十分です。したがって、誰もが「長期的な価値に基づいてアイデアを選択する」というゲームをしていると主張していますが、実際には「しばしば不協和で非常に敵対的な社会環境において誰が勝つかに基づいてアイデアを選択する」というゲームをしているのです。 「漠然としているが長期的には非常に大きなプラスの結果」という話で何でも正当化できるのであれば、「漠然としているが長期的には非常に大きなプラスの結果」という話は何も証明していないことになります。 どうすれば、現実から乖離することなく、長期的な思考の恩恵を享受できるでしょうか？まず第一に、それは非常に難しいと言えるでしょう。しかし、それ以外にも、いくつか基本的な経験則があると信じています。最もシンプルなのは、「長期的な利益」の名の下に行っていることが、実際にその利益をもたらしていることを証明できる確固たる歴史的記録を持っているかどうかです。経済成長もそうです。種の絶滅を防ぐこともそうです。「世界単一政府」の樹立はそうではありません。実際、他の多くの例と同様に、その過程で繰り返された失敗と甚大な被害という「確固たる歴史的記録」があります。もしあなたが検討している行動が、推測上の「長期的な利益」を持ちながら、確実に「既知の長期的な害」をもたらすのであれば…実行すべきではありません。このルールは常に当てはまるわけではありません。なぜなら、私たちは本当に前例のない時代に生きているからです。しかし、「私たちは本当に前例のない時代に生きている」という言葉自体が、突飛な考えに抵抗することを非常に困難にしていることを忘れてはなりません。 「個人的な美的感覚」を口実に物事を禁止する ウニは気持ち悪い。ウニの生殖巣を食べるんだから。おまかせ（日本のメニューのない料理）では、ウニが目の前に突きつけられることもある。それでも、禁止には反対だ。これは原則の問題だ。 私が嫌悪する行為の一つは、政府の強制力を利用して、究極的には「個人の美的嗜好」に過ぎないものを、他の何百万もの人々の私生活に押し付けることです。美的感覚を持つことは良いことです。公共環境を設計する際に美的感覚を考慮することも良いことです。しかし、自分の美的感覚を他人の私生活に押し付けることは決して許されません。他人に押し付けるコストは、自分の心理的利益をはるかに上回ります。もし誰もがそうしたいと思えば、それは必然的に文化的覇権、あるいは「万人対万人の政治戦争」につながるでしょう。 「えっと、これは気持ち悪いと思うんです」といった陳腐な言い訳で、政治家が同性愛禁止を推進する例は、ほぼ当たり前のことのように容易に想像できます。様々な反同性愛運動がその好例です。例えば、サンクトペテルブルク下院議員のヴィタリー・ミロノフ氏は次のように述べています。 LGBTの人々（ゲイ、バイセクシュアル、トランスジェンダーの人々）には権利がありません。我が国では、彼らの権利は社会的に重要な保護対象リストに含まれていません。これらのいわゆる「変質者」は、我が国の国民として持つすべての権利を有しているにもかかわらず、何らかの「拡張されたトップレベルリスト」には含まれていません。我々は、彼らを我が国の人権問題リストから永久に削除します。 ウラジーミル・プーチン自身も、アメリカには「悪魔主義」が強すぎると非難することでウクライナ侵攻を正当化しようとした。より最近の、少し異なる例としては、アメリカによる「合成肉」禁止運動が挙げられる。 「培養肉」は肉ではありません…人工的に作られたものです。本物の肉は神自身が創造したものです…本当に「窒素タンパク質ペースト」を試してみたいなら、カリフォルニアへ行ってください。 しかし、より「文明的な」アプローチをとる人の方がはるかに多く、何らかの言い訳で嫌悪感を隠そうとします。よくある言い訳は「社会の道徳観」「社会の安定」などです。こうした議論は「検閲」を正当化するためにも頻繁に用いられます。 何が問題なのでしょうか？スコット・アレクサンダー氏（合理性やAIといったテーマについて詳細な記事を執筆する有名ブロガー）にこの質問に答えてもらいましょう。 「ゆるやかな危害の原理」とは、政府が複雑で間接的な危害、つまり「社会の道徳的構造を弱める」ような危害に対して怒りを抱くことがあるという考えを指します。しかし、「ゆるやかな危害の原理」の存在を容認することは、「自由主義」が防ぐべきだった「他者を支配しようとする」古代の戦争を復活させることに等しいのです。ある人はこう言います。「同性婚は同性愛をより広く容認することにつながり、性感染症の発生率を高める！これは危害だ！同性婚を禁止しなければならない！」別の人はこう言います。「子供たちを私立学校に通わせることを許可すると、子供たちが宗教系の学校で反同性愛感情を広め、将来ヘイトクライムを犯す原因となる可能性がある！これは危害だ！私立学校を禁止しなければならない！」こうしてこの悪循環は永遠に続くのです。 「社会道徳構造」は確かに存在します。ある社会が他の社会よりも多くの点で道徳的であることは明らかです。しかし、それは曖昧で定義が曖昧であるため、非常に悪用されやすく、ほとんど何でも「社会道徳構造への違反」とレッテルを貼られてしまう可能性があります。科学や医学の進歩に壊滅的な打撃を与えてきた「嫌悪の知恵」へのより直接的な訴えにも同じことが当てはまります。また、「気に入らないから禁止する」という新たな言説にも当てはまります。よくある例として、「グローバルエリート」との闘いや「ローカル文化」の擁護が挙げられます。 合成肉反対派の発言をいくつか見てみましょう（これらの人々は、なぜ自分たちが合成肉を食べないのかを説明しているのではなく、なぜ自分たちの選択を他人に強制的に受け入れさせたいのかを説明しているのです）。 > 「グローバルエリート」は私たちの行動をコントロールし、アメリカ人に「石油の肉とミミズ」の食事を受け入れるよう強制したいのです。 フロリダ州は「ノー」と言っている。私はSB1084に署名したことを誇りに思う。この法案は、フロリダ州から培養肉を排除し、エリート層や世界経済フォーラムの思惑ではなく、農家や牧場主の保護を優先するものだ。 ビル・ゲイツと一緒に虫を食べるのが好きな人もいるかもしれないが、私はそうではない。 これが、私が穏健なリバタリアニズム（個人の自由と限定された政府を重視する政治哲学）に大いに共感する主な理由です。何かを禁止する際には、特定の被害者に明確な危害やリスクをもたらすという明確な説明が必要であり、その説明が裁判で認められれば、その法律は廃止されるべきである社会に住みたいと考えています。そうすれば、政府が（利益団体に）乗っ取られ、他者の私生活に文化的優遇を押し付けたり、万人が万人に対して戦争を起こしたりする可能性が大幅に低くなります。 「劣悪な金融」を擁護する 仮想通貨の世界では、様々なハイリスクなプロジェクトへの投資を勧める、ひどい言い訳をよく耳にします。中には、あるプロジェクトが1兆ドル規模の業界を「破壊する」（つまり、その業界に参入する）とか、このプロジェクトが他に類を見ないユニークなもので、誰も成し遂げていないことを実現しているといった、一見「素晴らしい」話に聞こえるものもあります。しかし、単に「有名人の支持があるから価格が上がる」というだけの場合もあります。 人々が「楽しむ」こと、つまり多少の資金を危険にさらすこと自体に反対はしません。私が反対するのは、「インフルエンサーが確実に値上がりすると言っている」トークンに、純資産の半分を投資するよう促されることです。最も現実的な結果は、そのトークンが2年後には価値がなくなることです。しかし、私がさらに反対するのは、貧しい人々が現代経済で公平なチャンスを得るために、このような短期間で10倍の利益を得る必要があるから、こうした投機的なトークンゲームは「道徳的に正しい」という主張です。例えば、次のような主張です。 純資産5,000ドルの人にとって、『ゆっくり投資してインデックスファンドに投資しろ』というのは、まさに地獄のようなアドバイスだ。彼らに必要なのは、上昇志向だ。ハイリスク・ハイリターンの投資に挑戦する必要がある。現代において、仮想通貨（ミームコイン）こそが、彼らにその機会を与えてくれる唯一の存在なのだ。 これはひどい議論です。反論する方法の一つは、他の議論と同様に、「これは社会移動の有意義で有益な形態である」という主張を解体し、否定することです。 この議論の核心は、カジノがゼロサムゲームであるということです。大まかに言えば、このゲームを通じて社会階級が上がる人が一人いれば、社会階級が下がる人が一人いるということです。 しかし、数学的に深く掘り下げていくと、状況はさらに悪化します。標準的な福祉経済学の教科書で最初に学ぶ概念の一つは、お金に対する人の「効用関数」が凹型であるということです（原文では誤って凸型と表現されていますが、図と文脈から、著者は明らかに「凹関数」、つまり「限界効用逓減」を指しています。ここでは直訳します）。裕福であればあるほど、1ドル増えるごとに得られる「効用」（満足度）は少なくなります。 持っているお金（水平軸）が増えるほど、曲線の傾き（1 ドルあたりの価値）が低くなることに注意してください。 このモデルには重要な結論があります。それは、ランダムなコイン投げ（ギャンブル）、特に高額賭けは、平均して「有害」であるということです。10万ドルを失う痛みは、10万ドルを得る喜びよりも大きいのです。現在20万ドルを保有していて、資産が倍増するごとに（つまり、100%増加または50%減少するごとに）社会階級が1つ上昇または下降するというモデルを構築するとします。10万ドルの賭けに勝った場合（資産が30万ドルになった場合）、社会階級は約半分上昇しますが、賭けに負けた場合（資産が10万ドルになった場合）、社会階級は1つ下降します。 人間の意思決定を真摯に研究し、人々の生活の向上を目指す学者によって構築された経済モデルは、ほぼ常にこの結論に達します。では、10倍のリターンを追求するために全力を尽くすべきだという、正反対の結論に達する経済モデルとは一体どのようなものでしょうか？答えは、投機対象の暗号通貨に都合の良いストーリーを見つけることを目的とする人々によって捏造されたストーリーです。 ここで私が言いたいのは、本当に貧しく絶望し、出口を探している人々を非難することではありません。むしろ、経済的に恵まれているにもかかわらず、「貧しく絶望している人々は本当に10倍のお金を必要としている」という口実で、「貧しい人々をさらに深刻な窮地に誘い込むための罠を仕掛ける」という行為を正当化している人々を非難したいのです。 これが、私がイーサリアムエコシステムを「低リスクDeFi」（DeFi、分散型金融）に焦点を当てるよう推進してきた理由の大部分を説明しています。第三世界の人々が自国通貨の政治的崩壊から逃れ、先進国の（安定した）金利にアクセスできるようにすることは素晴らしいことです。それは、他の人々を崖っぷちに突き落とすことなく、人々の社会階層の向上を奇跡的に助けることができます。最近、ある人にこう聞かれました。「なぜ「低リスクDeFi」ではなく「良いDeFi」と言わないのですか？」結局のところ、すべての高リスクDeFiが悪いわけではなく、すべての低リスクDeFiが良いわけでもありません。私の答えは、「良いDeFi」に焦点を当てれば、誰もが簡単に「既成概念にとらわれずに」、特定のタイプのDeFiが「良い」と主張できるようになります。しかし、「低リスクDeFi」と言うと、それは拘束力のあるカテゴリーになります。「既成概念にとらわれずに」、明らかに人々を一夜にして破産させるような活動を「低リスク」と呼ぶのは非常に難しいのです。 ハイリスクなDeFiの存在に反対しているわけではありません。結局のところ、私は予測市場（将来の出来事の結果に賭けるプラットフォーム）のファンです。しかし、より健全なエコシステムとは、低リスクのDeFiがメインコースで、ハイリスクのDeFiがサイドディッシュのような存在、つまり、生涯の貯蓄の半分を賭けるようなものではなく、楽しく実験的な存在であるべきでしょう。 最後の疑問：「予測市場は単なるギャンブルではなく、正確な情報へのアクセスを向上させることで社会に利益をもたらす」という見解は、単なる空想的で後知恵に基づいた合理化に過ぎないのでしょうか？確かにそう考える人もいます。 「予測市場は、大学教育を受けた男たちが「認知価値」や「社会的効用」といった言葉を使って、自分たちが単なるギャンブルであるという事実を隠そうとしているだけの、単なる占星術に過ぎない。」 弁解させてください。これを「事後的な合理化」ではないと判断できる理由は、予測市場を評価し、それを実現しようと試みる学術的伝統が30年も前から存在しているからです。これは、誰かが予測市場で大金を稼ぐ可能性（プロジェクトの立ち上げであれ、参加であれ）よりもはるかに長い期間です。この「既存の学術的伝統」は、ミームコインや、さらにマイナーな個人トークンのような例には見られません。しかし、繰り返しますが、予測市場は低リスクのDeFiではないため、あくまでもサイドディッシュであり、純資産の半分を賭けるようなものではありません。 電力最大化 AI関連の「効果的利他主義」（EA）界隈には、多くの権力者がいます。彼らに尋ねれば、彼らの戦略は可能な限り多くの権力を蓄積することだと明言するでしょう。彼らの目標は、有利な立場を占め、「決定的な瞬間」が訪れた際に、全力と莫大な資源を投入して「正しいことを行う」ことです。 「権力の最大化」は究極の「衝撃的な」戦略です。「Xができるように権力を与えてください」という主張は、Xが何であれ、同じように説得力があります。その「決定的瞬間」（AI終末論では、ユートピアが実現するか、全人類が死滅してペーパークリップになるかのどちらかの直前の瞬間を指します）に達するまでは、「利他的な」理由による行動は、「貪欲な自己拡大」のための行動と全く同じように見えます。したがって、後者を達成しようとしている人は誰でも、何のコストもかけずに、前者を達成しようとしているとあなたに言い、自分が善良な人間であることを納得させることができます。 「外部視点」（自身の主観的な感情に頼るのではなく、類似の状況からの統計データを参照することを重視する認知バイアス修正方法）から見ると、この議論は明らかに不合理です。誰もが自分は他人よりも道徳的だと信じているので、たとえ誰もが自分の力を最大化することが純益だと信じていても、実際にはそうではないことは容易にわかります。しかし、「内部視点」から世界を見渡し、ソーシャルメディア上の憎悪、政​​治腐敗、ハッキング、他のAI企業の抑制されない行動を見ると、「私は善人だ。この腐敗した外の世界を無視して、自分で問題を解決するべきだ」という考えは確かに魅力的に感じられます。そして、まさにこれが、「外部視点」を採用することが健全である理由です。 あるいは、もっと謙虚な「内なる視点」を持つこともできます。「効果的な利他主義」フォーラムで興味深い議論がありました。 投資の最大の利点は、おそらく、後に慈善活動に活用できる資金を飛躍的に増やすことができる点にあると言えるでしょう。1926年の創設以来、S&P 500は年率約7%のインフレ調整後リターンを達成しています。…「価値ドリフト」のリスクは予測が難しいものの、重要な要素です。例えば、効果的な利他主義コミュニティ内の個人における年間平均「価値ドリフト率」は約10%であることが、様々な情報源から一貫して示されています。 言い換えれば、確かに資産は年間7%増加するかもしれませんが、経験的データによれば、今日ある大義を信じているとしても、明日にはその信念が約10%低下する可能性があるということです。これは、タナー・グリアの観察とも一致しています。つまり、知識人の「賞味期限」は10～15年程度であり、それを過ぎると彼らの考えはもはや周囲の雑音よりも優れているとは言えなくなります（私が2011年に執筆活動を開始したことの重要性については、読者の判断に委ねます）。 したがって、「後で行動する」ために富を蓄積すると、将来の自分がその余分な富を使って、今の自分では支持できないようなことをする可能性があります。 「社内でもっとできることがある」 AIセキュリティの分野では、「パワー最大化」と「宿命論」が混在する問題が繰り返し発生しています。つまり、AIセキュリティを向上させる最善の方法は、超知能AIの実現を加速させている企業に加わり、「内部から」改善を図ることだという考え方です。ここでは、次のような合理化がよく見られます。 OpenAIには非常に失望しています。私のような安全意識の高い従業員がもっと必要です。内部から変革を起こすために、OpenAIに加わることを表明します。 「内部の視点」から見ると、これは合理的に思えます。しかし、「外部の視点」から見ると、本質的には次のようになります。 キャラクターA：「ここはひどい場所だ。」 キャラクターB：「では、なぜまだ出発しないのですか？」 登場人物A：「私はここに留まって、事態が悪化するのを見届けなければならない。」 この学派のもう一つの良い例は、現代ロシアの政治システムです。ここでフィナンシャル・タイムズの記事を引用したいと思います。 プーチン大統領がドンバス分離主義者の存在を認めてから3日後の2月24日、彼はウクライナに対する全面攻撃を開始した。これはウクライナ側の最悪の予想をはるかに超えるものだった。世界各国と同様に、ウクライナ側もプーチン大統領の真意をテレビを通じて初めて知った。プーチン大統領がテクノクラートの警告に耳を貸さなかったことは、ウクライナにとって大きな打撃となった。戦争初期にズベルバンクCEOのグレフ氏に会った元幹部は、「あんな風貌の彼を見たことがなかった。完全に打ちのめされ、極度のショックを受けていた。誰もがこれは大惨事だと思っていたが、彼は誰よりもそう思っていた」と語った。ロシアの政治エリート層の狭いサークルでは、かつてプーチン大統領の「シロヴィキ」（強硬派の安全保障機関幹部）に対抗する近代主義者・改革派とみなされていたグレフ氏やナビウリナ氏（ロシア中央銀行総裁）のようなテクノクラートたちが、自由市場への信念を守り、戦争に公然と反対する歴史的な機会に直面して撤退したのだ。元当局者によると、これらのテクノクラートたちはプーチン大統領と決別するどころか、専門知識と手段を用いて西側諸国の制裁の影響を緩和し、ロシアの戦時経済を維持する「支援者」としての役割を強固なものにしている。 同様に、問題は「社内でもっとできる」というフレーズにあり、「既成概念にとらわれない発想」に抵抗する能力は驚くほど低い。実際に何をしているかに関わらず、「社内でもっとできる」と言うのは簡単だ。結局、あなたは機械の歯車の一つに過ぎず、隣にいる歯車たちと同じ役割を担っている。大邸宅と豪華なディナーで家族を養うために毎日働いている人たちだ。ただ、あなたの理由の方が聞こえが良いだけだ。 では、「既成概念にとらわれない考え方」を避けるにはどうすればよいのでしょうか? さまざまなことができますが、ここでは 2 つに焦点を当てます。 原則に従う 「やりたくないこと」については明確な線引きをしましょう。罪のない人を殺さない、盗まない、騙さない、他人の個人の自由を尊重するなどです。そして、例外については極めて高い基準を設けましょう。 哲学者はしばしばこれを「義務論的倫理」（結果よりも義務と規則を重視する）と呼びます。義務論は多くの人を困惑させます。当然のことながら、ルールの背後に根本的な理由があるのであれば、その理由を直接追求すべきではないでしょうか？「盗まない」というルールが、盗むことは通常、被害者に利益よりも害を与えるからというのであれば、「善よりも害をもたらすことをしない」というルールに従うべきです。しかし、盗むことが「害よりも利益」をもたらす場合もあるのであれば、盗めばいいのです！ この結果主義的なアプローチ（プロセスではなく結果のみに焦点を当てる）の問題は、非常に想像力豊かな思考に全く抵抗できないことです。私たちの脳は、「この特定の状況において、あなたが（他の理由で）ずっとやりたいと思っていたことが、たまたま全人類にとって大きな利益になる」と主張するための理由を巧みに作り上げます。一方、義務論はこう言います。「いいえ、それはできません」。 義務論の 1 つの形式は規則功利主義です。規則は最大の利益をもたらすものに基づいて選択されますが、特定のアクションを選択する際には、すでに選択した規則に従うだけです。 正しい「重荷」を「把握」する。 上で述べたもう一つの共通点は、あなたの行動はしばしば「インセンティブ」によって決定されるということです。暗号通貨の専門用語で言えば、あなたがどんな「バッグ」（あなたが保有する資産やポジションを指し、それがあなたの考え方や行動に影響を与えます）を持っているかということです。このプレッシャーに抵抗するのは困難です。これを避ける最も簡単な方法は、自分自身に悪いインセンティブを設定しないようにすることです。 もう一つの帰結は、間違った社会的な重荷、つまり自分が属する社会的な輪に執着しないようにすることです。社会的な重荷から逃れようとすることは不可能です。そうすることは、人間の最も基本的な本能に反するからです。しかし、少なくとも、それらを多様化することは可能です。そのための最も簡単な方法は、物理的な居住地を賢く選ぶことです。 これは、「AI の安全性にどのように貢献するか」という、すでに使い古された話題に関する私の個人的な提案を思い出させます。 - 「最先端の完全自律型 AI」機能の開発を加速している企業で働かないでください。 - サンフランシスコベイエリアに住んでいない