アンソロピック、AI暴走懸念で開発減速を提言　クロード・ミュトスが鍵に

人工知能（AI）開発の米アンソロピックは、AIが人間の手を借りずに性能を自律的に高める段階に近づいたと指摘し、暴走して制御不能になる前に「開発を遅らせたり、一時停止したりする選択肢を持つことが世界にとって有益だ」と提言した。

核軍縮条約を引き合いに、先端AI規制の国際的枠組みが整い、競合他社も同調すれば、減速や停止を行う用意があると表明した。

アンソロピックはセキュリティー上の脆弱性を発見する能力が高い先端AI「クロード・ミュトス」で知られる。ミュトスはサイバー攻撃に悪用される懸念から、一般公開を見送った

アンソロピックは4日公表の報告書で、AIの歴史の大半において開発を人間が手がけてきたが、アンソロピックではより多くの部分をAIに委ねるようになったと説明。この傾向が一段と進めば「AIシステムが自律的に自らの後継システムを設計・開発できるようになる」と予測した。

アンソロピックはAIの自律的進化がもたらすリスクに警鐘を鳴らし、国際的な協調による規制の必要性を訴えている。同社の提言は今後のAI開発の方向性に影響を与える可能性がある。