これについて私の考えを述べましょう。2010年代初頭、テクノロジー企業は自らを善意と全知の神として積極的に位置づけ、テクノロジー系メディアもそれに同調しました。Netflixのアルゴリズムはあなた自身よりもあなたのことをよく理解していたし、Stitchfixは量子力学を用いてあなたにぴったりの服を作り上げていた、といった具合です。
「ターゲットは、少女の妊娠を両親よりも先に知っていた」と報じられ、これは少々不気味ではあるものの、基本的には良いこととして報じられた。パーソナライゼーションとレコメンデーションのおかげで、ビッグデータは世界中のあらゆる人にとって完璧な小さな世界を作り出すために活用されていたのだ。
これらすべては、真の技術的奇跡と社会の変化と重なり、中でもソーシャルメディアとスマートフォンは二大巨頭でした。かつて見たことのないような新しい技術は、全能神話に非常に説得力を与えました。
そして、最大のプレーヤーたちは、世界を繋ぐこと、民主化すること、悪ではないことなど、神話の慈悲深い側面に非常に力を入れました。
しかし、全知全能で慈悲深い存在であるならば、悪の問題に直面することになります。そしてまさにそれが起こりました。全能の存在が悪事を起こすことを許すのか、人々はますます憤慨しました。
面白いことに、人々が最も簡単に放棄したと思われていたのは、善意に基づくものでした。巨大テック企業がその全能性を悪用しているという説は、実際には全能性を持っていないという説よりも、はるかに信憑性がありました。
ですから、2020年代には、この「悪の問題」の罠を避けるため、神話の作り方が少し変わってきていると思います。今日の大手テクノロジー企業のリーダーたちは、慈悲深い神の仲介者ではなく、混沌とした悪魔の召喚者なのです。
「私はビッグデータの繁栄の時代をもたらした。すべてが順調で、コントロール下にある」と言うのではなく、「私たちはAGIの混沌とした時代の瀬戸際にいる。もしあなたがこれを制御するチャンスが欲しいなら、私が最良の選択肢だ」と言っているのだ。
これは、このことから生じるであろうあらゆる悪影響に対する責任を免除するものであり、完全に偶然だとは思いません。2012年からずっと同じ人々が関わっています。彼らは学んできました。まるで自分が有能で、状況をコントロールしているかのように見せかけることはできません。
今回は、私たちが全能なのではなく、（これから）全能になるのはコンピュータであり、私たちにできるのはそれを制御するために最善を尽くすことだけです。そして、残念ですが、コンピュータは善意に満ちているとは限りません。もしかしたらそうなるかもしれません。願わくば。でも、そうでないかもしれません。いずれにせよ、私たちのせいではありません。
2012年当時のストーリーはこうでした。「ビッグデータをある慈善的な目的のために活用する方法を解明し、ついでに紙幣増刷も可能にする。私たちはエージェントだ。責任を持ち、自分たちの仕事に誇りを持っている。このミッションに、私たちと一緒に参加しませんか？」
2025年には、AIは私たちが望むと望まざるとに関わらず、あれこれと破壊的な行為を犯すようになるでしょう。私たちは、この避けられない災厄から少なくともいくらかの利益を得るために、この状況を自分たちに有利に傾ける方法を見つけました。このミッションにご参加いただけませんか？