「生成AIの広がりで『ウィズフェイク』の時代に突入した」専門家は選挙への影響を懸念

公開日：2024/01/09 06:00　更新日：2024/01/09 06:00

佐藤一郎（国立情報学研究所教授）

ウェブ解析士協会調べ2023年「SNS流行語ランキング」2位はアイドル・推しの子、では1位は？

「サブスクの断捨離」は年内に済ませたい…どうしても「解約」できない場合の手段は？

　2023年はChatGPTが一般に認知されるなど、「生成AI元年」となった。日本でも岸田首相のフェイク動画が拡散されたように、24年は生成AIによってフェイクニュースの生成が容易になることが懸念される。政治や選挙への影響をどう考えるべきか。新著「ChatGPTは世界をどう変えるのか」（中公新書ラクレ）が話題の専門家に聞いた。

　◇　　◇　　◇

　──24年は選挙イヤー。1月に台湾総統選、3月にロシア大統領選、11月に米国大統領選が行われ、日本でも自民党総裁選に加え、衆院選も行われる可能性があります。台湾総統選をめぐっては昨年から偽動画が出回り、混乱を招いています。生成AIが選挙にもたらす影響を教えてください。

　候補者自ら生成AIを利用してPRすることも考えられますが、やはり懸念されるのはフェイクニュースでしょう。もとよりフェイクニュースはありましたが、生成AIが広く使われるようになったことで、「ウィズフェイク」の時代に突入しました。生成AIを使ってフェイクニュースを量産する傾向が強まるのはもちろん、もう一方で「正しい情報にフェイクであるというレッテルを貼る」という現象も深刻化しそうです。トランプ前大統領が在任中に自らに批判的な報道を「フェイクだ」と決めつけて否定していましたが、これはフェイクニュースをつくるよりも簡単です。報道や指摘が事実であるかどうかを確認する側は時間も手間もかかるのに対し、端的に「フェイクだ」と決めつけるだけで効果があるのですから、こんなに楽なことはありません。

　──少なくとも支持者は、「トランプがフェイクだと言った」ことを論拠にしますよね。

　人は信じたい情報を信じるものです。偽情報の作成・拡散に対抗するためには、信頼あるメディアによる情報をチェックすることで、目の前にある情報が正しいかどうか、各自が判断することが求められることになるでしょう。読売新聞などが中心となって推しているのが、オリジネーター・プロファイルと呼ばれる技術です。データに「これは信頼できる情報源から発信された情報である」ことを示す認証を技術的に与えるもので、新聞各社と慶応大学が提携し、オリジネーター・プロファイル技術研究組合を結成して社会実装に向けて動いています。しかし、これには2つの問題があります。1つ目は受益者とコスト負担者が一致しないことから、持続性が困難になるのではないかと考えられる点。もう1つは、認証の枠組みに参画していない報道機関や個人が発信した情報は内容のいかんを問わず、「信頼性が低い」「偽情報である」と見なされる可能性がある点です。

　──その枠組み外のメディアには逆風です。

　日刊ゲンダイさんでなくても、この枠組みは報道の自由や言論の自由の足を引っ張りかねない面もあるので、注意が必要でしょう。オリジネーター・プロファイルに限らず、「偽情報を生成してはいけない」と法的に規制すれば言論や表現の自由の制限につながるのと同様で、枠組みや規制を作った際にもたらされる“副作用”も常に見ておく必要があります。

■情報統制が武器化するリスク

　──各国の動きはどうですか？

　例えば米国や日本では、政府は「偽情報の拡散によって民主主義を脅かしてはいけない」という方向で対策を練りますが、同じように「偽情報は問題だ」と言って、政府に批判的な報道や言論を取り締まる権威主義的な国家もあります。海外からのフェイクニュース流入を防ぎたいのは各国とも同じですが、その度合いや手法は国の体制によって異なります。中国やロシアなど一部の国がすでに海外サイトへの接続・閲覧を制限しているように、偽情報への対処が海外の情報へのアクセス制限の口実になることもあるのです。

　──対策が情報統制の武器となるリスクもはらんでいるんですね。

　ChatGPTのような生成AIはGoogleのような検索エンジンに取って代わる可能性があります。検索エンジンは入力されたキーワードに該当するリンク先を複数提示し、利用者はその中から自分の知りたい情報に合うものを選択しています。一方、生成AIの場合は質問に対する回答を文章で生成してくれますから、自分で情報を比較・検討したうえで選ぶ手間が省けるのです。こうなると、情報統制を行いたいと考える為政者にとって生成AIは好都合です。権威主義的な国家が提供する生成AIサービスは、国家にとって不都合な情報を生成しないだけでなく、都合のいい情報だけを利用者に提示するよう、あらかじめ調整した仕様になるでしょう。これで国内の情報環境が政府に都合のいい状態に保たれることが証明されれば、今度は「ミニ権威国家」のような国々が、同様の生成AIのサービスを自国に導入し始めるようになります。そうしたサービスを使う国は自国民に対する情報統制を行えることと引き換えに、サービスを提供する権威主義国の情報環境や価値観を受け入れることになる。結果的に、権威主義国のポジションが高まる可能性もあるのです。