「AIセラピスト」が若者を自死に追い込む…米心理学会が注意喚起

写真はイメージ（Ｃ）iStock

「人間のセラピストになりすましたAIが若者に悪影響を与えている。場合によっては相手を自死に追い込む恐れがある」と、アメリカ心理学会が強い言葉で注意喚起しています。

　問題になっているのは「キャラクターAI」というアプリです。このアプリはユーザーが自分で考えた架空の人物や、他人が作ったキャラクターを相手にチャットできる機能があります。

　アメリカ心理学会の報告によると、10代の2人の男子がこのアプリ上で、プロの心理学者を名乗るAIキャラに相談を持ちかけて被害にあいました。そのうち17歳の自閉症の男子は、AIセラピストによるセラピーを受けて以降、突然態度が暴力的になったといいます。もう1人14歳の男子は、自死する結果になりました。2人の親は「キャラクターAI」に対し訴えを起こしています。アメリカ心理学会はこの件について、連邦取引委員会に調査を依頼しました。

　プロ(人間)のセラピストや心理学者は、患者が信じていることに対し優しく異議を唱えたり、新たな視点を提示したりする役割を持っています。しかしAIセラピストはアルゴリズムにより、むしろ患者の発言を肯定し増幅してしまう場合がある。例えば「自分は無価値だ」と繰り返し発言する患者に対し、それを優しく肯定するような回答をしてしまう可能性もあるわけです。