AIは責任を取ってくれないことをあなたは自覚しているか|「ヒトとAI」岡野原大輔著/岩波新書(選者:中川淳一郎)
「ヒトとAI」岡野原大輔著/岩波新書(選者:中川淳一郎)
AI関連本といえば、「AIに仕事を奪われる」といった警告をするものや活用ガイド、その可能性を論じるものが多いが、本書はAIの仕組みと人間がいかに向き合うべきかに重きを置いている。哲学的な話も多く書かれており、人間とAIの違いが簡単に解説されているのが「火」に関する考察だ。
〈人間にとっての火は「触れると火傷をして死ぬかもしれないもの」という身体的な痛みと不可分な概念として抽象化されるが、AIにとっての火は赤くて揺らめく画像パターンや「熱さ」や「赤」といった単語との統計的な結びつきに過ぎない〉
そのためAIは、人間にはあり得ない物理法則や生命の危機を無視した奇妙な抽象化のミスをするのだという。また、AIは「雨だから傘をさす」という人間が取る行動は理解しているものの、雨に濡れた経験はないため、「因果の確信度は人間とは質が異なる」そうだ。
そして、ここからが私にとっての本書における核心になったのだが、「AIは責任を取ってくれない」ということである。企画書・文章・プレゼン資料・イラスト・ポスター・飲食店のメニューなどありとあらゆる場所でAIは答えを出してくれるが、結局これらを利用するのは人間なのである。
10月18日、日本漢字能力検定協会がXに投稿した「漢検自己採点祭り」の生成AI画像の「祭」の文字が間違っており、ネット上は文字通り祭りとなった。「祭」を構成する「夕」にはもう一つ点があるが、この画像では3つの点が描かれていたのだ。
担当者としては確認ミスを悔いただろうが、心のどこかに「AIの野郎、こんな簡単なことを間違えやがって……」という気持ちがあったのでは。仮に担当者がこの画像を生成したAIに「『祭』の文字が間違っていて炎上した。漢字能力検定協会の信頼のためにも、もう少し慎重に画像生成をしてね」と書いたとしよう。
するとAIは「たいへん申し訳ありませんでした。今後、二重・三重のチェックで万全を期します」とだけ言う。AIはクローズドな場所でユーザーに謝るが、責任は取らない。
〈AIは判断の結果を自ら引き受ける立場にない。どれほど適切な判断を下したとしても、その結果がもたらす損失や責任をAI自身が背負うことはないからだ〉
この通りだ。AIが出した解をチェックし、採用し、提出するのは人間だ。そこで怒られるのも称賛されるのも人間。これがAIとの正しい付き合い方である。 ★★



















