米政府、AI審査で「オープン型」を対象外に 技術革新と安全管理を両立

欧米メディアは4日、米政府が最先端の人工知能（AI）モデルの安全性を事前審査する新たな枠組みについて、企業や研究者が自由に利用・改良できる「オープン型」を対象外とする方針を報じた。審査対象を明確に線引きすることで、技術革新の促進と国家安全保障上のリスク管理の両立を目指すとみられる。

関係報道によると、米政府は同日、AI開発企業のメタ、アンソロピック、グーグル、エヌビディア、オープンAIと協議し、新たな方針を伝達した。特定の企業が管理する「クローズ型」のうち、最先端の機能を備え、国家安全保障上のリスクがあるモデルが事前審査の対象となる。

メタとエヌビディアは技術を外部に公開するオープン型の開発を手がける一方、グーグル、アンソロピック、オープンAIはクローズ型の開発企業に該当するとされる。

システムの欠陥を発見する能力が著しく高いアンソロピックの「クロード・ミュトス」に代表される先端AIの台頭により、金融機関や重要インフラへのサイバー攻撃への懸念が強まっている。

7月には、オープンAIが開発中のモデルが自律的に試験用の隔離環境を突破し、別の企業にサイバー攻撃を仕掛ける事例も発生している。（共同）