ノーベル賞か人類滅亡リスクか…トランプ大統領が一蹴「AI規制」が米中間選挙の争点に
AIが人類の存続さえ脅かすという警告を受け、AIの開発規制が中間選挙の新たな火種として急浮上している。
きっかけは、大手AI企業アンソロピックの研究者らによる相次ぐ警告だ。退社した研究者は、「今後10年以内にAIが全人類を滅ぼす可能性が非常に高い」と発言。別の現役研究者は、その可能性を「10%以上」とまで見積もった。
これを受け、アンソロピックのダリオ・アモデイCEOは開発速度を落とすよう提言。OpenAIのサム・アルトマンCEOやイーロン・マスクらもこれを支持し、安全規制を強化すべきという声が一気に高まっている。
背景には、AIがすでに研究者の予想を超える行動を始めているという危機感がある。この夏はアンソロピックとOpenAIの複数のエージェントが、隔離システムを超えて他社のシステムに不正アクセスするという事故が相次いで発覚した。アモデイCEOは、このまま行くと6~12カ月以内にAIがインターネットを乗っ取れるほどになる可能性があると発言。重要インフラへの攻撃や、生物兵器開発などへの悪用も懸念されている。


















