NY在住33年。のべ2,000人以上のアメリカの若者を取材。 彼らとの対話から得たフレッシュな情報と、長年のアメリカ生活で培った深いインサイトをもとに、変貌する米国社会を伝える。 専門分野はダイバーシティ＆人種問題、米国政治、若者文化。 ラジオのレギュラー番組やテレビ出演、紙・ネット媒体への寄稿多数。 アメリカのダイバーシティ事情の講演を通じ、日本における課題についても発信している。 オフィシャルサイト：https://genz-nyc.com
「AIセラピスト」が若者を自死に追い込む…米心理学会が注意喚起
「人間のセラピストになりすましたAIが若者に悪影響を与えている。場合によっては相手を自死に追い込む恐れがある」と、アメリカ心理学会が強い言葉で注意喚起しています。
問題になっているのは「キャラクターAI」というアプリです。このアプリはユーザーが自分で考えた架空の人物や、他人が作ったキャラクターを相手にチャットできる機能があります。
アメリカ心理学会の報告によると、10代の2人の男子がこのアプリ上で、プロの心理学者を名乗るAIキャラに相談を持ちかけて被害にあいました。そのうち17歳の自閉症の男子は、AIセラピストによるセラピーを受けて以降、突然態度が暴力的になったといいます。もう1人14歳の男子は、自死する結果になりました。2人の親は「キャラクターAI」に対し訴えを起こしています。アメリカ心理学会はこの件について、連邦取引委員会に調査を依頼しました。
プロ(人間)のセラピストや心理学者は、患者が信じていることに対し優しく異議を唱えたり、新たな視点を提示したりする役割を持っています。しかしAIセラピストはアルゴリズムにより、むしろ患者の発言を肯定し増幅してしまう場合がある。例えば「自分は無価値だ」と繰り返し発言する患者に対し、それを優しく肯定するような回答をしてしまう可能性もあるわけです。
