Yangyi（@Yangyixxxx）のスレッド

AIの能力が人間をはるかに超え、人間の労働の価値がゼロに近づいたり、（人間のミスにより）マイナスになったりしたら、社会や経済はどうなるか考えたことがありますか？ Emad @EMostaque は最近、この問題について議論するオンラインインタビューを行いました 👇🏻 今後 1000 日以内に、このようなインテリジェントな反転が起こる可能性があります。 人間社会の生産性は、土地から工場、そして資本と知的財産へと進化してきました。AI時代においては、生産性とは計算能力です。 「人間中心」の報酬機能を構築できない場合、AI は最終的に人間の存在意義を消滅させます (行動上の価値がなくなり、おそらく物理的な価値だけが残るでしょう)。 ただし、そのような報酬関数が存在する場合、分散化される必要があります。 独占されないことによってのみ、制御不能になることを避けることができます。 そのため、人々は暗号通貨をマイニングする方法を見つけ、それがコンピューティングリソースとなります。このコンピューティングパワーは公共AIシステムを支え、ひいては全人類に貢献します。 この基本的なデジタル通貨は実際にはビットコインです。 過去には、人々は無駄なハッシュ計算を行っていましたが、将来は、AI を使ってあらゆる貴重な問題を解決するようになるでしょう。 これらの問題を解決して通貨を獲得するこの分散型通貨は、実際には計算能力と計算動作の証明です。 しかし、人々は限られた量の通貨を使うよりも蓄えておく傾向があります。 流動性を失った通貨は、経済において有効な交換手段として機能できなくなります。これはグレシャムの法則、あるいはデフレスパイラルとして知られています。 したがって、価値の保存手段と交換手段を分離するために、流通通貨を構築することも必要です。 認証された実際の人間はそれぞれ、個人の AI を通じて新しい流通通貨を自動的かつ継続的に取得します。 この通貨は基礎となるデジタル通貨に固定されており、その価値の安定性が確保されています。 このお金は誰もが生まれながらに持っている権利であり、社会保障の基盤となるものです。 これにより、単一のデフレ通貨によって引き起こされる経済停滞を回避できます。人々はAIが提供するサービスと引き換えに流通通貨を喜んで使うでしょう。一方、AIは人間にサービスを提供することでこれらのクレジットを獲得し、それを運用に必要なコンピューティングパワー（最終的にはファウンデーションコインやその他の通貨と交換される可能性があります）の支払いに充てることになります。 AIがこれらの流通通貨しか消費できない場合、その報酬関数は社会と人類に有益な行動に限定され、インセンティブの整合が達成されます。これは、AIの恐ろしい「癌」を相殺するのに役立ちます。 ----------- 同じインタビューで、エマド氏は別の点についても言及した。それは、生成型AIの驚異的な能力は、宇宙自体が計算や情報のための何らかの基礎構造を持っている可能性を示唆しており、私たちは単にこの構造を「発見」している最中であり、知性を発明しているのではなく、知性を発見しているのだ、というものだ。 同じ基礎 AI モデル アーキテクチャ (Diffusion や Transformer など) は、タンパク質の折り畳みや物理世界のシミュレーションから人間の言語や経済システムまで、一見まったく異なる分野のコンテンツを非常に高い圧縮率で学習し、生成できます。 これらのモデルは、現実世界のより基本的な動作原理に関係している可能性があります。宇宙自体は、ある種の「損失関数」（エントロピーや情報ギャップなど）を最小限に抑える大規模な計算システムである可能性があります。 ----------- AIの進歩により、人間の価値は 認知能力や計算能力が希少な資源ではなくなると、人間性の価値は定量化できない側面に戻るでしょう。 たとえば、関係ネットワーク：人々のつながり、コミュニティ意識、社会的関係などです。 たとえば、現実世界でのインタラクティブな体験：家族や友人と一緒に時間を過ごし、一緒に何かを創造し、体験することの価値。 たとえば、独立した思考者になること、つまり感情的な経験を持つ意識のある存在になることは、AI では再現できない可能性があります。 AIの台頭により、私たちはGDPを超えた価値基準を再考し、長期的な人類の繁栄と人生の意味に焦点を移すことを迫られています。 インタビュー出典: https://t.co/PHurYHMVKE