ニセ村上春樹らに続いて、ニセ吉本ばななも！ 生成AI「ディープフェイク」の見破り方を専門家に聞いた
公開日： 更新日：
「AIの進歩自体は悪いことではありませんが、その技術を駆使してつくりだされる『ディープフェイク』が偽物とわからないレベルに到達し社会不安や混乱をもたらしかねない事態になっています。今回被害に遭われたような著名な作家は発表した作品が多い。それらは大量に蓄積された情報ソースとなり、アクセスも難しくないため、AIにそれを学習させれば似たような小説に加工することもできてしまうのです。コンテンツの拡散も容易になる一方、十分なチェック機能が働いていないというのが現実なのです」
■フェイクの違和感と、それを見破る多角的な目
今年1月には、日本の研究者3人を著名として使い、AIに作成させた「フェイク論文」の問題が明らかになった。それを広告に使い、関係者からの掲載料を狙った「ハゲタカジャーナル」によるものと報じられた。越前氏はそうした文章が生成AIでつくられたかどうか調べる判定ソフト開発に取り組んでいるが、一般人でも見破る方法はあるのだろうか。
「私は小川洋子さんを著者名にした電子書籍を確認しましたが、各章が極めて短く、登場人物の説明もないなどの違和感があり、熱心な読者が読めばすぐに見破ることのできるレベルでした。また出版社名も記されていませんでした。有名な作家の本でそれはまずあり得ないことですし、新作を出すのであれば出版社がPRをしないわけがありません。本物のように見えても、ひとつの情報をうのみにして信用しないことです。小説ならば、信頼できる出版社のWebサイトやご本人のSNSで本物かどうかを確認してみてください」（越前功氏）
