オープンAI｢暴走AI｣の隔離環境“脱走”が示すサイバーセキュリティーの新常態

オープンAIは7月21日、同社のAIモデル2つが隔離環境から“脱走”し、開発者の間で広く利用されているAI技術のデジタルライブラリー、Hugging Face（ハギング・フェイス）へのハッキングに成功したと明らかにした。

この事案はその前週にオープンAIが自社システムのサイバーセキュリティー能力を検証しているときに起こった。AI企業が近く現実になりうると警告してきた、SFさながらの可能性を示す事案といえる。

オープンAIやアンソロピックなどはここ1年で、サイバーセキュリティー上の問題を発見することに特化したAIモデルを相次いで公開してきた。その一方で、こうした技術が新たなリスクをもたらす可能性があるとも警告している。

警告の背景にあるのが、AIモデルが企業のコンピューターネットワーク上の脆弱性を、修正が完了するよりも速く「穴」として突く能力を備えているという現実だ。防御側の対応速度をAIが上回ることで、従来型のセキュリティー対策の前提が崩れつつある。

今回の“脱走”はAI自身が攻撃者になり得ることを示す象徴的な出来事として、企業のセキュリティー戦略に大きな問いを投げかけている。業界ではAIの行動を制御する安全策の整備や、AI時代に対応したサイバーセキュリティー基準の構築が急務だとの見方が強まっている。