アンソロピック、ミュトス級AI提供停止　米政府輸出措置に反論「誤解による」

人工知能（AI）開発を手がける米新興企業アンソロピックは12日、最先端の生成AIモデル「クロード・ミュトス5」と、同等の性能を持つ「クロード・フェイブル5」の提供を停止すると発表した。米政府が同日、外国人によるアクセスを禁止する輸出管理措置を発令したためで、同社は「全ての利用者のアクセスを停止する」と表明した。安全保障上の懸念が理由とみられる。

アンソロピックは声明で「政府は危険なAIの運用を停止させる権限を持つべきだ」と一定の理解を示す一方、「それは透明性や公平性が確保され、技術的な事実に基づく法的手続きの下で行われるべきだ」と強調。「今回の措置はそうした原則に従っていない」と反論し、措置は「誤解によるものだと考えている」と主張した。

米ニュースサイトのアクシオスは、政権当局者の話として、別の企業がミュトス級の安全対策を突破することに成功したと政府に報告したことが、停止措置の発端になったと報じた。

アンソロピックは4月、システムの脆弱性を発見する能力が極めて高いミュトスを発表したが、サイバー攻撃などへの悪用を懸念し、一般公開は見送っていた。今月に入り、安全対策を施した一般向けモデル「フェイブル」の提供を開始。ミュトスも利用者を限定して提供を続けていた。

最先端の生成AIを巡り、アンソロピックは今月上旬、AIが人間の手を借りずに性能を自律的に高める段階に近づきつつあると指摘。制御不能になる前に開発を遅らせるなどの選択肢を持つことが世界にとって有益だと提言していた。