「生成AIの広がりで『ウィズフェイク』の時代に突入した」 専門家は選挙への影響を懸念

自分にとって都合のいい記事しか読まない「フィルターバブル」が進む恐れ

（左上から時計回りに）バイデン米大統領、トランプ前米大統領、習近平中国国家主席、プーチン露大統領（Ｃ）ロイター

　──国際社会において情報や価値観のデカップリング（分断）がますます進んでしまう。利用者も生成AIが与えてくれる情報だけで満足していると、世界が狭くなってしまいそうです。

　読者の情報収集姿勢を見れば、すでに自分にとって都合のいい記事、興味のある記事しか読まない傾向にあり、しかも強まる一方です。生成AIの登場前からこうした傾向は指摘されていて、エコーチェンバーやフィルターバブルと呼ばれ、問題視されていました。ただ、SNSなどで生じるこれらの現象は、意見を同じくする他者を必要とします。そのため、ある程度まではフィルターバブル化が進んでも、極端に先鋭化すると“仲間”が減り、先細りしてその効果も低下していきます。しかし、生成AIは仮に利用者が先鋭化してもトコトンその論調に付き合ってくれる。SNS以上に先鋭化し、世間では孤立しているにもかかわらず、それに気づかないまま、別の形のエコーチェンバー・フィルターバブル化が進行することも考えられます。

　──自分の書き込みに賛意を送っているのが、実はすべて生成AIによる書き込みで人間ではなかった、とか……。

　あり得ますね。その時起きるのは、人々の興味関心の傾向もさらに細分化されるという現象です。同じ話題や同じ傾向の意見を持つ「誰か」がいなくても、記事や書き込みが生成され、提供されることになりますから。

　──なんだかディストピアの様相ですが、そうした時代に紙の新聞を出す意味とは何なのでしょうか。

　新聞という媒体が最も重視すべきは、「みんなが知っておくべきことを知らせる媒体である」という点です。それぞれの新聞によって傾向や話題の取捨選択はありますが、基本的には読者が好むと好まざるとに限らず、発行元が紙面に掲載した記事を一覧できるのが新聞の特徴です。読者としても1面から見ていけば「今何が世間の話題になっていて、何を知っておかねばならないか」を確認できる利点があります。ただ、新聞社のオンラインサイトでは、特定の読者個人の興味関心に合わせて記事の掲載順序を変える仕組みが使われているところもあります。これは新聞が果たすべき「新聞社が考える記事の重要度を掲載位置や見出しの大きさなど『扱い方』で示し、読者に提供する」という本来の役割を果たせないことになります。

　──痛しかゆしですね。

　今後、生成AIによって、さらに一歩踏み込んで特定の読者個人の興味関心に合わせて記事内容まで書き換えて提供することも技術的に可能になるでしょう。しかしこれは新聞の重要な役割を、自ら放棄することになりかねません。新聞社やメディアのみならず、すべてのケースについて言えることですが、AIといってもしょせんは道具にすぎず、万能ではないことを常に念頭に置くべきでしょう。

（聞き手=梶原麻衣子）

▽佐藤一郎（さとう・いちろう）　1991年、慶応義塾大理工学部電気工学科卒業。96年、同大大学院理工学研究科計算機科学専攻後期博士課程修了。博士（工学）。お茶の水女子大理学部情報科学科助手や助教授、国立情報学研究所助教授を経て、2006年から国立情報学研究所の情報社会相関研究系・教授。デジタル庁「政策評価有識者会議/行政事業レビュー（旧事業仕分け）」座長、経産省・総務省「企業のプライバシーガバナンスモデル検討会」座長などを歴任。「仮面ライダーゼロワン」（テレビ朝日系）のAI技術アドバイザーも務めた。