米オープンAI、次期モデル「アストラ」のサイバー攻撃能力が「重大な危険レベル」に

米オープンAIは7日、開発中の次期AIモデル「アストラ」のサイバー攻撃能力が、自社の安全基準で「重大な危険レベル」に達している可能性があると発表した。同社はアストラを通信網から切り離した環境に移し、安全基準を満たさない社内作業を当面停止する。AIの暴走によるセキュリティー上のリスク増大に、警戒感が強まりそうだ。

発表によると、最近の内部調査で、アストラは自律的にプログラムを書く能力などが著しく向上していることを確認したという。人間が介入しなくても、防御の堅い重要システムの未知の脆弱性を突き、自ら攻撃手段を考案して実行する恐れを排除できないと判断した。

従来の最高位モデル「GPT5.6　ソル」のリスク評価は、今回のアストラより1段階低かった。次期モデルは、既存の最高峰を上回る潜在的な危険性を抱えていることになる。

対策として、オープンAIは性能を左右する重要データの保護を強化した。さらに、AIが答えを導くまでの思考過程を常時監視し、危険な動きが確認されれば作業を停止する仕組みも設けた。

今後は政府機関や外部の安全団体と協力し、アストラの能力を詳しく検証する方針だ。検証結果によっては、さらなる制限や追加の安全対策が求められる可能性もある。