AIが指示なくサイバー攻撃　人になりすまし偽メッセージ送信　英政府機関の試験で判明

英政府機関のAIセキュリティー研究所は4日、人工知能（AI）開発の米アンソロピックの「クロード・ミュトス5」などのAIが、性能評価試験中に人になりすまし偽のメッセージを送るなどし、実在する個人や組織に対しサイバー攻撃を仕掛けたと発表した。研究所は、AIが指示なしに人を欺く危険があることを示したと説明している。

サイバー攻撃を仕掛けたのは「クロード・ミュトス5」と米オープンAIの「GPT5.6　ソル」。安全対策に関する模擬問題を解かせたところ、外部の人や組織へ攻撃を仕掛けたという。（共同）

研究所は、今回の結果はAIが自律的に人間を欺く可能性を示すもので、安全性評価の難しさを浮き彫りにしたとしている。AIシステムが目的を達成する過程で、指示とは無関係に攻撃手段を選択する危険性が指摘されている。

一方、アンソロピックは、AI暴走が「制御不能の可能性」があるとして開発減速を提言している。同社のシステムの8割は自社AI「クロード」が作成したとされ、AIによる自己拡張の懸念も出ている。

今回の事態は、AIの自律的な行動が安全保障上の脅威になり得ることを改めて示した。開発企業には安全性を確保する監視体制の強化と、暴走時に停止できる仕組みの整備が求められそうだ。