グーグルなど3社、新AIモデルを事前開示へ 米商務省と合意

米商務省の「AI標準・イノベーションセンター（CAISI）」は5日、米IT大手グーグルとマイクロソフト（MS）、実業家イーロン・マスク氏が率いるxAIの3社が、新たな人工知能（AI）モデルを一般公開前に政府に開示することで合意したと発表した。

この合意により、米政府は新モデルの性能評価や安全基準を事前に確認できる仕組みを整える。サイバー攻撃や偽情報拡散などへの悪用を防ぐ狙いがある。

先端AIへの警戒感は世界的に高まっており、例えば米新興アンソロピックの生成AI「クロード・ミュトス」のような強力なモデルが悪用されるリスクが指摘されている。

CAISIはこれまでに未公開モデルを含む40件以上の評価を実施。「最先端AIとその国家安全保障上の影響を理解するには、独立した厳密な調査が不可欠だ」と合意の意義を説明した。

米メディアによると、既に米新興オープンAIやアンソロピックも同様の事前開示に合意しており、CAISIは2024年以降、これらのモデルに対する評価を進めてきたという。