Google、生成AI悪用の新局面を報告 AI製ゼロデイ攻撃の計画を初特定

米Googleの脅威分析部門Google Threat Intelligence Group（GTIG）は5月11日（現地時間）、AI悪用に関する最新動向レポートを公開し、攻撃者グループがAIを用いて開発したとみられるゼロデイエクスプロイトの使用を計画しているのを初めて特定したと明らかにした。

この攻撃者グループは、当該エクスプロイトを大規模な脆弱性悪用に使用する計画だったが、GTIGが事前に発見したことで攻撃を阻止できた可能性がある。GTIGは攻撃計画の発見過程について詳細を明らかにしていない。

エクスプロイトはPythonスクリプトとして実装され、広く使われているオープンソースのシステム管理ツールにおけるゼロデイ脆弱性を悪用するものだった。この脆弱性を突くことで2要素認証（2FA）を回避できるが、悪用には有効なユーザー認証情報が必要だった。GTIGは影響を受けたベンダーと連携し、脆弱性を開示して攻撃を妨害したとしている。

GTIGは、GoogleのAIモデル「Gemini」がこのエクスプロイトの開発に使われたとは考えていないとしつつ、スクリプトに教育的な説明文や幻覚（ハルシネーション）とみられるCVSSスコア、大規模言語モデル（LLM）の訓練データに特徴的な整ったPythonコードの形式が含まれていたことから、攻撃者がAIモデルを脆弱性発見やエクスプロイト開発に利用した可能性が高いと分析している。

今回の事例は、攻撃者が生成AIをサイバー攻撃に活用する新たな局面を示すものだ。Googleは今後もこうした脅威の監視を続け、早期発見と対策に努めるとしている。