Trapped in a Bubble? Algorithms, Echo Chambers, and a Divided Society

Two classmates can open the same video app on the same evening and see two completely different worlds. One sees clips about cooking and cats; the other sees angry arguments about politics. Neither of them chose exactly what appeared on the screen. A computer program known as an algorithm made the choice for them, based on what each of them had watched, liked, and shared before. As more of our news and conversations move online, a serious question has emerged: are these invisible programs dividing society?

同じクラスの二人が、同じ夜に同じ動画アプリを開いても、まったく違う世界を目にすることがあります。一人には料理やネコの動画が流れ、もう一人には政治をめぐる怒りに満ちた言い争いが流れてきます。二人とも、画面に何が出てくるかを自分で決めたわけではありません。決めたのは、アルゴリズムと呼ばれるコンピューターのプログラムです。それぞれが以前に何を見て、何に「いいね」をし、何をシェアしたかをもとに選んでいるのです。ニュースも人との会話も、ますますネットの上に移っていく今、重い問いが浮かび上がってきました。この目に見えないプログラムが、社会を分断しているのではないか、という問いです。

Recommendation algorithms were created to solve a real problem. Every day, people upload an enormous amount of content, far more than anyone could ever look through. By predicting what each user is most likely to enjoy, platforms can show the most relevant posts first. For users, this is convenient. For companies, it is profitable, because the longer people stay on an app, the more advertisements they see. Personalization is therefore at the heart of the business model of most social media.

おすすめを選ぶアルゴリズムは、もともと現実の問題を解決するために作られました。毎日、人々はとてつもない量のコンテンツをアップロードしています。とても一人では見きれない量です。そこでプラットフォームは、利用者一人ひとりが何をいちばん楽しみそうかを予測し、関係の深い投稿から先に見せます。利用者にとっては便利です。会社にとってはもうかります。人がアプリに長くいればいるほど、たくさんの広告を見てもらえるからです。そのため、一人ひとりに合わせて内容を変える「パーソナライズ」は、ほとんどのSNSの商売の仕組みの中心にあります。

Personalization also has real benefits that are easy to forget. A teenager with a rare illness can find others who share the same experience. A student interested in an unusual hobby, such as old maps or insects, can discover communities that would be impossible to find in a small town. In this sense, algorithms can connect people who would otherwise feel alone, and they can introduce users to ideas that they would never have searched for.

パーソナライズには、見落とされがちな本当の利点もあります。めずらしい病気をかかえる十代の若者は、同じ経験をした仲間を見つけられます。古い地図や昆虫といった、少し変わった趣味をもつ生徒も、小さな町にいたら決して出会えない仲間の集まりを見つけられます。その意味で、アルゴリズムは、ふつうなら孤独を感じていたはずの人どうしを結びつけることができます。自分では決して検索しなかったような考え方に、出会わせてくれることもあるのです。

Critics, however, have long warned about a hidden cost. In 2011, the American internet activist Eli Pariser introduced the term "filter bubble" in a book of the same name. He argued that when websites quietly filter information to match our past behavior, each of us ends up living in a personal bubble. Inside it, we mostly see ideas that we already agree with, and we may not even realize what has been left out.

しかし、批判する人たちは以前から、見えないところに代償があると警告してきました。2011年、アメリカのインターネット活動家イーライ・パリサーは、『フィルターバブル』という本を書き、同じ名前の言葉を世に広めました。ウェブサイトが、私たちの過去の行動に合わせて情報をこっそりふるい分けると、一人ひとりが自分だけの泡の中で暮らすことになる、と彼は主張しました。泡の中で目にするのは、ほとんどが、もともと賛成している考えばかりです。何が見えなくなっているのかに、気づきさえしないかもしれません。

A related idea is the "echo chamber." The American legal scholar Cass Sunstein discussed this danger in a book published in 2001, before today's social media even existed. An echo chamber is a space where people mainly hear their own opinions repeated back to them, like a voice echoing in an empty room. While a filter bubble is created largely by algorithms, an echo chamber is often created by people themselves, when they follow only like-minded friends and ignore or block those who disagree.

これと関係の深い考えに、「エコーチェンバー」があります。アメリカの法学者キャス・サンスティーンは、今のようなSNSがまだなかった2001年に出した本の中で、この危険を論じていました。エコーチェンバーとは、自分の意見ばかりが自分に返ってくる空間のことです。がらんとした部屋で、声がこだまするようなものです。フィルターバブルは主にアルゴリズムが作り出しますが、エコーチェンバーは人が自分で作り出すことが多いのです。考えの似た友達だけをフォローし、意見の違う人を無視したりブロックしたりするときです。

Why does this matter? Democracy depends on citizens who can disagree but still talk to one another, share basic facts, and reach compromises. Many observers fear that echo chambers make this harder. When people see only one side of an issue, their views may become more extreme, and they may begin to regard people on the other side not just as mistaken, but as foolish or even dangerous. Researchers call this growing distance between groups polarization.

これは、なぜ問題なのでしょうか。民主主義が成り立つには、市民が意見を違えながらも話し合い、基本的な事実を共有し、歩み寄ることが必要です。エコーチェンバーがそれを難しくしているのではないか、と心配する人は少なくありません。ある問題の一つの面しか見ていないと、人の意見は極端になりがちです。反対側の人を、ただ「まちがっている」と思うだけでなく、「愚かだ」「危険でさえある」と見なすようになるかもしれません。研究者は、こうして集団と集団の距離が広がっていくことを「分極化」と呼んでいます。

Echo chambers may also help false information to survive. A large study published in 2018 by researchers at MIT found that false news on Twitter spread farther and faster than true news, partly because it was more surprising. Inside a group where everyone shares the same beliefs, a false story that fits those beliefs is rarely questioned. Corrections, on the other hand, may never reach the group at all.

エコーチェンバーは、うその情報を生きのびさせることもあるかもしれません。2018年にマサチューセッツ工科大学（MIT）の研究者たちが発表した大規模な研究では、ツイッター上のうそのニュースは本当のニュースより遠くまで、速く広まっていました。理由の一つは、うそのほうが驚きが大きいことでした。だれもが同じ考えをもつ集団の中では、その考えに合ううその話は、まず疑われません。一方、訂正の情報は、その集団にまったく届かないこともあるのです。

These concerns sound convincing, and many people treat them as common sense. However, when researchers have tried to measure the effects of algorithms directly, the results have been surprisingly mixed.

こうした心配は、もっともらしく聞こえます。多くの人が、常識のように受け入れています。ところが、研究者がアルゴリズムの影響を直接はかろうとすると、結果は意外なほどまちまちでした。

One of the largest experiments was carried out during the 2020 presidential election in the United States. Working with Facebook's parent company, a team of independent researchers reduced the amount of content from like-minded sources that more than 23,000 users saw in their feeds, cutting it by about one third. The users did see a wider range of content. Yet when the team measured their political attitudes, they found no measurable reduction in polarization. The results, published in the journal Nature in 2023, suggested that simply changing an algorithm may not be enough to change what people believe.

最も大規模な実験の一つは、2020年のアメリカ大統領選挙の期間に行われました。フェイスブックの親会社の協力のもと、会社から独立した研究者のチームが、2万3000人を超える利用者のフィードを調整しました。考えの似た情報源からの投稿を、およそ3分の1減らしたのです。利用者は、たしかに前より幅広い内容を目にするようになりました。ところが、チームが政治的な態度をはかってみると、分極化がやわらいだ様子は、はかれるほどには見られませんでした。2023年に科学誌『ネイチャー』に発表されたこの結果は、アルゴリズムを変えるだけでは、人の考えを変えるのに十分ではないかもしれないことを示していました。

Other studies challenge the idea that social media users live in narrow bubbles. Researchers at the Reuters Institute at the University of Oxford analyzed survey data from four countries, including the United States and the United Kingdom. They found that people who came across news on social media by accident, while using it for other purposes, actually used more online news sources than people who did not use social media at all. The effect was strongest among young people and those with little interest in news. In other words, social media can sometimes widen, rather than narrow, the range of information that people see.

SNSの利用者がせまい泡の中で暮らしている、という考えに疑問を投げかける研究はほかにもあります。オックスフォード大学のロイター研究所の研究者たちは、アメリカやイギリスなど4か国の調査データを分析しました。すると、ほかの目的でSNSを使っていて、たまたまニュースを目にした人のほうが、SNSをまったく使わない人よりも、多くのネットのニュース源を利用していることが分かりました。この傾向は、若い人やニュースにあまり関心のない人で特に強く見られました。つまりSNSは、人が目にする情報の幅を、せばめるどころか広げることもあるのです。

Research in Japan has produced similar findings. In a book published in 2019, two Japanese researchers reported the results of large online surveys of tens of thousands of people. If the internet were pushing people toward extremes, they reasoned, polarization should be strongest among the young, who use it the most. Instead, they found that extreme political views were more common among middle-aged and older people, and that age was more closely linked to extreme views than the use of social media was.

日本の研究でも、よく似た結果が出ています。2019年に出た本の中で、日本の二人の研究者が、数万人を対象にした大規模なネット調査の結果を報告しました。もしインターネットが人を極端な方向に押しやっているなら、ネットをいちばん使う若い世代で分極化がいちばん強いはずだ、と二人は考えました。ところが実際には、極端な政治的意見は、中高年の人たちのほうに多く見られました。また、極端な意見と深く結びついていたのは、SNSを使うかどうかより、年齢のほうでした。

Perhaps the most surprising result came from a 2018 experiment in the United States. Researchers paid a group of Twitter users to follow an automated account that shared messages from people with opposing political views. If echo chambers were the main problem, breaking them should have made these users more moderate. In fact, Republicans who saw liberal messages for a month became more conservative, not less. Hearing the other side, it seems, does not automatically make people more open-minded. Sometimes it makes them defend their own side even more strongly.

おそらく最も意外な結果は、2018年にアメリカで行われた実験から出たものでしょう。研究者たちは、ツイッターの利用者にお金を払い、反対の政治的立場の人たちのメッセージを流す自動のアカウントをフォローしてもらいました。もしエコーチェンバーがいちばんの問題なら、それを壊せば、利用者の考えはおだやかになるはずです。ところが実際には、リベラルなメッセージを1か月見続けた共和党支持者は、保守的な考えを弱めるどころか、さらに強めたのです。反対側の意見を聞けば自然に心が開かれる、というわけではないようです。かえって自分の側をいっそう強く守ろうとすることもあるのです。

Of course, none of these studies is the final word. The Facebook experiment covered a limited period during one election in one country, so the effects of algorithms over many years could be different. The researchers behind the Twitter study also called for further studies to check whether their results would be repeated with other groups of people. What the research does show is that the simple story, in which algorithms alone push people into extreme camps, is probably too simple.

もちろん、どの研究も最終的な答えではありません。フェイスブックの実験は、一つの国の一回の選挙の、限られた期間を調べたものです。何年にもわたるアルゴリズムの影響は、違うかもしれません。ツイッターの実験をした研究者たちも、ほかの人々を対象にしても同じ結果が出るか、さらに研究が必要だと述べています。研究から分かるのは、「アルゴリズムだけが人を極端な陣営に追いやる」という単純な話は、おそらく単純すぎる、ということです。

What, then, explains the division that so many people feel? One possibility is that the problem lies less in algorithms than in human nature. Psychologists have long known that people tend to look for information that supports what they already believe, a habit known as confirmation bias. We also pay more attention to content that makes us angry or afraid. Social media did not create these tendencies, but platforms that reward attention may amplify them, because emotional posts often receive the most reactions.

それでは、多くの人が感じている分断は、何から来ているのでしょうか。一つの見方は、問題はアルゴリズムよりも、人間の性質のほうにある、というものです。人は、自分がすでに信じていることを支える情報を探しがちです。これは「確証バイアス」と呼ばれ、心理学者たちが昔から知っているくせです。また人は、怒りや恐れをかき立てる内容に、より強く注意を引かれます。こうした傾向は、SNSが生み出したものではありません。けれども、注目を集めるほど得をする仕組みのプラットフォームは、それを強めているかもしれません。感情的な投稿ほど、多くの反応を集めることが多いからです。

Another possibility is that the loudest voices online are not typical. People with strong opinions tend to post far more often than people with moderate views, who may simply stay silent. As a result, social media can make society look more divided than it really is, and this impression itself may increase distrust between groups.

もう一つの見方は、ネット上でいちばん大きな声は、ふつうの人の声ではない、というものです。強い意見をもつ人は、おだやかな考えの人よりずっとひんぱんに投稿しがちです。おだやかな人たちは、ただ黙っているだけかもしれません。その結果、SNSを見ていると、社会が実際以上に分断されているように見えることがあります。そして、そう見えること自体が、集団どうしの不信を深めるかもしれないのです。

Even so, few experts believe that the issue can be ignored. Many argue that platforms should be more open about how their algorithms work, and that users should have more control over what they see. In 2023, new rules in the European Union began to require the largest online platforms to reveal more about how their systems operate. Some apps also allow users to choose a simple feed that shows posts in time order instead of a personalized one.

それでも、この問題を放っておいてよいと考える専門家はほとんどいません。プラットフォームはアルゴリズムの仕組みをもっと明らかにするべきだ、利用者が自分の見るものをもっと自分で決められるようにするべきだ、と多くの人が主張しています。2023年には、ヨーロッパ連合（EU）の新しいルールによって、最も大きなオンライン・プラットフォームに、その仕組みについてより多くを明らかにすることが求められ始めました。また、一人ひとりに合わせたフィードのかわりに、投稿を時間の順に並べるだけのシンプルなフィードを選べるアプリもあります。

Individuals can act, too. We can follow people and news sources with different viewpoints, read beyond the headlines, and ask ourselves why a particular post has appeared on our screen. Many schools now teach media literacy, the ability to understand and judge information critically. The goal is not to make everyone agree, but to make sure that disagreement is based on shared facts and mutual respect.

一人ひとりにも、できることがあります。違う考えをもつ人や情報源をフォローする。見出しだけでなく中身まで読む。この投稿はなぜ自分の画面に出てきたのだろう、と自分に問いかける。今では多くの学校が、メディア・リテラシー、つまり情報を理解し、批判的に判断する力を教えています。目指すのは、みんなを同じ意見にすることではありません。意見が分かれても、共通の事実とおたがいへの敬意をふまえて議論できるようにすることです。

In the end, algorithms are tools. They reflect our clicks and choices as much as they shape them. Although it is tempting to blame technology for every social problem, the evidence suggests that the relationship between social media and division is more complicated than it first appears. Escaping our bubbles may depend less on changing the code and more on our willingness to listen to people who think differently.

結局のところ、アルゴリズムは道具です。アルゴリズムは私たちのクリックや選択をかたちづくりますが、同じくらい、それを映し出してもいます。社会のあらゆる問題を技術のせいにしたくなるものですが、研究からは、SNSと分断の関係は、ぱっと見た印象より複雑だということが分かります。泡から抜け出せるかどうかは、プログラムを書きかえることよりも、自分と違う考えの人に耳を傾けようとする気持ちにかかっているのかもしれません。

What do you think? Some people say that governments should require social media companies to change their algorithms, because personalized feeds can trap users in bubbles and make society more divided. Others say that such rules are unnecessary, because research has not clearly shown that algorithms cause polarization, and people should be free to choose what they read.

あなたはどう思いますか。政府はSNSの会社に、アルゴリズムを変えるよう義務づけるべきだ、と言う人もいます。一人ひとりに合わせたフィードは利用者を泡の中に閉じこめ、社会の分断を深めかねないからです。一方、そうしたルールはいらない、と言う人もいます。アルゴリズムが分極化を引き起こすことは研究ではっきり示されていないし、何を読むかは人々が自由に選んでよいはずだからです。

— The End —