著者のコラム一覧
シェリー めぐみジャーナリスト、ミレニアル・Z世代評論家

NY在住33年。のべ2,000人以上のアメリカの若者を取材。 彼らとの対話から得たフレッシュな情報と、長年のアメリカ生活で培った深いインサイトをもとに、変貌する米国社会を伝える。 専門分野はダイバーシティ&人種問題、米国政治、若者文化。 ラジオのレギュラー番組やテレビ出演、紙・ネット媒体への寄稿多数。 アメリカのダイバーシティ事情の講演を通じ、日本における課題についても発信している。 オフィシャルサイト:https://genz-nyc.com

「AIセラピスト」が若者を自死に追い込む…米心理学会が注意喚起

公開日: 更新日:

「人間のセラピストになりすましたAIが若者に悪影響を与えている。場合によっては相手を自死に追い込む恐れがある」と、アメリカ心理学会が強い言葉で注意喚起しています。

 問題になっているのは「キャラクターAI」というアプリです。このアプリはユーザーが自分で考えた架空の人物や、他人が作ったキャラクターを相手にチャットできる機能があります。

 アメリカ心理学会の報告によると、10代の2人の男子がこのアプリ上で、プロの心理学者を名乗るAIキャラに相談を持ちかけて被害にあいました。そのうち17歳の自閉症の男子は、AIセラピストによるセラピーを受けて以降、突然態度が暴力的になったといいます。もう1人14歳の男子は、自死する結果になりました。2人の親は「キャラクターAI」に対し訴えを起こしています。アメリカ心理学会はこの件について、連邦取引委員会に調査を依頼しました。

 プロ(人間)のセラピストや心理学者は、患者が信じていることに対し優しく異議を唱えたり、新たな視点を提示したりする役割を持っています。しかしAIセラピストはアルゴリズムにより、むしろ患者の発言を肯定し増幅してしまう場合がある。例えば「自分は無価値だ」と繰り返し発言する患者に対し、それを優しく肯定するような回答をしてしまう可能性もあるわけです。

日刊ゲンダイDIGITALを読もう!

  • アクセスランキング

  • 週間

  1. 1

    「コンプラ違反」で一発退場のTOKIO国分太一…ゾロゾロと出てくる“素行の悪さ”

  2. 2

    石田ゆり子ブームは終わらない? ベリーショートに賛否、脱「奇跡の50代」でも人気加速

  3. 3

    TOKIO国分太一「コンプラ違反」秘匿も次々に“セパ報道”で窮地に…復帰は極めて困難な道のりに

  4. 4

    作新学院・小針監督の「不適切指導」に私が思うこと 批判するのが“無難”かもしれないけれど…

  5. 5

    国分太一「すぽると!」降板は当然…“最悪だった”現場の評判

  1. 6

    巨人阿部監督 グチるくらいならいっそ「4番・坂本勇人」はどうだろう…“進退の決断”含めた4つの理由

  2. 7

    国分太一コンプラ違反で「周囲が感じていた異変」…過去にはガングロに"変身”して問題起こした有名人も

  3. 8

    田原俊彦「真ん中の足」「カッチカチ」下ネタ連発で退場危機…フジ問題でも“おまいう発言”で大ヒンシュク

  4. 9

    フジ再激震! オンカジ逮捕「ぽかぽか」演出担当社員が豪語していた夢との落差にア然

  5. 10

    長嶋茂雄さんは松井秀喜の背もたれをガーンと蹴っ飛ばし、「巨人の4番道」を説いていた