最近「XXガイド」をよく見かけませんか？ 馬東錫氏でさえ文句を言わずにはいられませんでした。私も同じ気持ちです。「XXガイド」に関するツイートをたくさん見ると、マスク氏がまたアルゴリズムを変えたことを批判したくなります。頼宗氏がWeiboのタイムラインを「フォローしている人の時間順」からアルゴリズムによるおすすめに変更した時、多くの批判を浴びたのと同じです。 すべてはアルゴリズムのせいであるように思えます。アルゴリズムは好みを操作し、暗闇の中で対立を生み出し、私たちを情報の繭に閉じ込めます。 でも、もしこれがすべて私たちの幻想だったらどうでしょう？アルゴリズムがなくても、世界は依然として引き裂かれ、繭で満たされているとしたらどうでしょう？最も「純粋な」ソーシャルプラットフォームでさえ、私たちが今嫌っているものすべてを「自動的に」進化させてしまうかもしれないのです！ 急いで反論する前に、最近発表された非常に興味深い実験を見てみましょう。 オランダのアムステルダム大学が発表した「ソーシャルメディアは改善できるか？生成型ソーシャルシミュレーションによる様々な『説得的』介入の検証」という論文では、AIを用いたシミュレーション実験が行われた。彼らは、初期のTwitterやWeiboのような、アルゴリズムによる推奨機能のない、投稿、リポスト、フォロー機能のみを備えたミニマルなソーシャルプラットフォームを作成した。 しかし、彼らは実在の人間ではなく、LLM（大規模言語モデル）を用いて、異なる性格を持つ500人の仮想ユーザーをシミュレートしました。これらのAI仮想ユーザーは、それぞれ異なる政治的立場、関心、そして背景を持っていました。 （ちなみに、彼らのインスピレーションは、スタンフォード大学がGPT-4を使って構築した「スモールビル」という仮想都市から生まれたようです。その都市には25人のAI仮想人間が住んでいました。彼らは仕事をし、噂話をし、社交イベントを企画し、新しい友達を作り、バレンタインデーのパーティーを主催することさえありました。都市の住民はそれぞれ独自の個性と背景を持っていました。） 結果はどうなると思いますか？ 約 50,000 件のやり取りから、ソーシャル メディアの典型的な問題が 3 つすぐに明らかになりました。 1. 「エコーチェンバー」の形成：AI仮想人間は、アルゴリズムによる「フィード」を必要とせずに、素早く「どちらかの側」に立つ。似たような立場の人々は互いにフォローし合い、すぐに複数の小さなサークルを形成するが、サークル間の相互作用はほとんどない。 2. インフルエンサーがトラフィックを独占: トップユーザーの 10% がフォロワーの 75～80% を占めています。 3. 極端な意見は増幅される: より明確で極端な立場の意見は、より多くのリポストと注目を集めます。 その後、文献から選ばれた6つのプラットフォームレベルの介入を試験したところ、改善は極めて限定的であることが分かりました。いずれの介入も、これらの症状を引き起こす根本的なメカニズムを完全に破壊することはできず、中には症状を悪化させるものさえありました。 6つの介入を評価しました。いくつかの介入はわずかなプラス効果を示しましたが、根本的な問題を完全に解決したものはありませんでした。さらに、ある側面の改善は、しばしば別の側面の悪化を犠牲にしていました。（例えば、「時間によるソート」は不平等を軽減しましたが、「プリズム効果」を悪化させました。「ブリッジングアルゴリズム」は「プリズム効果」を軽減しましたが、不平等を悪化させました。） ソーシャルメディアを悩ませている3つの大きな問題、すなわち情報の繭、影響力の集中、そして過激な発言の増幅は、人間のオンライン上の社会的行動そのものに根ざしている可能性が高く、私たちが考えているほどアルゴリズムによる推奨とは関係がないのかもしれません。「エコーチェンバー」を積極的に探し求めているのは私たち自身であり、極端な意見を持つ人々を「インフルエンサー」の地位に押し上げているのも私たち自身なのです。 これは「監視リスト法」の存在も説明しています。 @HeSenbao: 数年前、Weibo で「フォローリストの法則」という言い回しが流行りました。これは基本的に、誰かが厚かましくも愚かなことを言った場合、その人のフォローリストに必ずいくつかのアカウントが見つかるということを意味しています。 @FantasyManLiu: 社会学者たちはすでにこのことを研究しています。情報化以前の時代、個人は受動的に情報を受け取り、情報の発信は主に一方通行でした。双方向の時代では、情報源が視聴者をフィルタリングし、視聴者が情報源を能動的にフィルタリングします。したがって、視聴者が情報源を選択する際の好みは、彼らの認知レベル、理解度、そしてそれに関連するスタンスを反映している可能性があります。 ソーシャルメディアを分断しているのはアルゴリズムではなく、ただ世界のあり方です。私たちが引き裂かれていると感じるのは、アルゴリズムが私たちに普段は見られない世界を見せるからかもしれません。 ソーシャルメディアが登場する前の時代、私たちは自分と似たような人々に囲まれ、新聞やテレビは編集者によってフィルタリングされた調和のとれた現実を提示していました。しかし今、アルゴリズムによって、これまで抑圧されてきたあらゆる声が掘り起こされています。 トゥームキーパーは、似たような視点を持つ「料金を上げて速度を落とす」という典型的な理論を提唱しています。要点は、2017年以降、「速度を上げて料金を下げる」という政策によってインターネット利用者が急増し、様々な人が集まり、極端な意見が増加傾向にあるというものです。 あなたが経験する分裂の感覚は、アルゴリズムが対立を生み出すからではなく、アルゴリズムによって、現実的で多様で、時には不快なほど複雑な世界を見ることができるようになるからです。 ソーシャルメディアプラットフォームには、情報の繭を壊す動機が実際にあると私は考えています。理由は簡単です。アルゴリズムが好みのものだけを表示すると、すぐに飽きてしまいます。ユーザーをプラットフォームに引きつけ、より長く滞在させるには、アルゴリズムは常にユーザーを驚かせ、興味がありそうなのに見たことのない新しいコンテンツを推奨する必要があります。 したがって、老馬氏と来宗氏がアルゴリズムを最適化してくれると信じています。まだ様々な問題はありますが、最終的には良い方向に進むでしょう。 だからこそ、私はジャック・マー氏やライ氏のアルゴリズムをよく批判する一方で、プラットフォームのプッシュ通知にも大きく依存しています。ネットユーザーから情報源をどこで見つけているのかとよく聞かれますが、これまで何度も答えてきました。私の主な情報源はXのプッシュ通知とHacker Newsです。時間やフォロー数でソートされる「フォロー中」機能ではなく、Xの「おすすめ」機能をほぼ独占的に使用しています。このアルゴリズムのおかげで、これまでフォローしていなかった価値あるコンテンツを発見できることが多いからです。 「ソーシャル メディアを修正できるか?」という論文は、非常に洞察力に富んだ次のような声明で締めくくられています。 このような問題がこのような単純なプラットフォームから「発生する」可能性があるという事実は、問題がアルゴリズムの実装の詳細にあるのではなく、より深い構造的メカニズムにある可能性があることを示唆しています。つまり、問題は「コンテンツの相互作用」と「ネットワークの形成」の間の複雑なダイナミクスに起因しています。 > 「リツイート」は単にコンテンツを拡散させるだけでなく、ソーシャルネットワークを「構築」することを意味します。ユーザーは、既にフォローしているアカウントのリツイートを通じて、他のユーザーと交流を深めます。 > これは、核となるメカニズムを暗示しています。つまり、リポストの「感情的、反応的、党派的」な性質が、誰が見られ、誰がフォロワーを獲得するかを直接決定するのです。 > これは悪循環を生み出し、それ自体を強化します。感情的な交流がソーシャルネットワークの成長を促し、成長するネットワークが将来の情報への露出を形作ります。この悪循環は、イデオロギーの均質化、注目度の不平等、そして極端な意見の過剰表現を絶えず強化します。 > 私たちの研究結果は、「ソーシャルメディアの機能不全は主にアルゴリズムによるキュレーションによって引き起こされる」という一般的な見解に疑問を投げかけています。むしろ、これらの問題はソーシャルメディアの根底にある構造、つまり「感情的で反応的な共有」を通じて成長するソーシャルネットワークに根ざしている可能性があります。 > そうだとすれば、オンラインの談話環境を改善することは、単に技術的な「パッチや修正」を行うだけでは達成できず、こうした環境を定義する最も基本的な相互作用と可視性のダイナミクスを再考する必要があることになります。 つまり、問題は一周して元に戻るのです。問題の根本はアルゴリズムではなく、「感情的で反応的な共有」にあるため、プラットフォームの技術を単に修正するだけでは不十分なのです。 この論文は解決策を提示したわけではありませんが、少なくとも、ユーザーとして私たち自身で変更を加えることができるということを思い出させてくれました。 冒頭で触れた「XXガイド」もそうですが、なぜかよく目にするんですよね。よく考えてみると、画面のいたるところに表示されているわけではなく、ただ読んだら他のツイートは忘れてしまうだけなんです。でも、こういうコンテンツは感情を喚起しやすく、転送やコメントがつきやすく、何度も強化されてしまうんですよね。 この時点で、マ・ドンソク氏のアプローチは非常に巧妙でした。彼は簡単に言及しましたが、それを「Low B ガイド」と呼び、転送したり引用したりしませんでした。 これは「感情の悪循環」に参加することを拒否する取り組みです。 「リアクティブ共有を通じて成長する」というプラットフォームの基本的なアーキテクチャを変更できない場合でも、少なくとも私たち自身のリアクティブ共有と転送のパターンを変更することはできます。
論文リンクarxiv.org/abs/2508.03385Yr
