AIエージェントの40％が格下げ・廃止へ？ガバナンス失敗を避ける「比例的統制」

調査会社Gartnerは2027年までに、企業の40％が本番環境で自律的に稼働するAIエージェントを格下げまたは廃止すると予測している。背景には、ガバナンス（統制）の誤った運用が潜んでおり、企業は「統一ルール」の罠に陥っているという。

多くの企業はAIエージェントを本格活用するには、ガバナンスを一律に強化すべきと考えがちだ。しかしGartnerは、一見安全に見えるこの発想がかえって危険だと警告する。一律の統制が、AIエージェント活用の全面的な失敗を招く可能性があるからだ。

Gartnerは2026年5月26日（米国時間）のリポートで、自律性のレベルやアクセス範囲を考慮せずに全てのAIエージェントに同じガバナンスを適用すると、組織は2種類の典型的な失敗モードに直面すると指摘した。

一つは、単純なAIエージェントに過剰な制限を課すことで、その提供が遅れ、ユーザー部門がITを介さない「シャドー開発」を助長することだ。もう一つは、自律性の高いAIエージェントにほとんど制限をかけず、運用やセキュリティ、コンプライアンス（法令順守）のリスクを高めることである。

Gartnerのシニアディレクターアナリスト、シヴァ・ヴァルマ氏は、失敗の根本原因は「AIエージェントのガバナンスを『厳しく制限するか、全面的に信頼するか』という二者択一として扱っている点にある」と述べている。

こうした問題を軽減するため、Gartnerは「比例的ガバナンス」アプローチを推奨する。AIエージェントを自律性レベルごとに分類し、レベルに応じて統制を変えるという方法だ。Gartnerは具体的に4段階の自律性レベルを提示している。

レベル1は、定義されたデータソースへの読み取り専用アクセスに限定され、出力は要求したユーザーのみに表示される。文書の要約やデータ検索などが典型例だ。主なリスクはデータ漏えいと出力精度に限られるため、範囲を絞った統制で十分だという。

レベル2は、推奨事項やドラフト、行動案を生成するが、実行は人間が全ての出力をレビューした上で手動で行う。読み取り専用アクセスにとどまり書き込みはできない。ただし自動化バイアスで不正確な出力が信頼されると後続処理にリスクが及ぶため、レベル1の統制に加え、精度やハルシネーションのテスト、AI出力を過信しないためのユーザートレーニングが必要となる。

レベル3は、データの書き込みや構成の変更といったアクションを実行できるが、全て人間の明示的な承認を得た後に限られる。ヴァルマ氏は「人間によるレビューが実質的な統制として機能し続けることが重要だ」とし、強固なセキュリティテストや監査証跡を伴う承認ワークフロー、エージェント固有のインシデント対応手順が必要だと指摘する。これらがなければ承認は形骸化し、安全だという誤った感覚を生みながら攻撃対象領域を広げてしまう。

レベル4は、定義されたガードレール（安全対策）の範囲内で、エージェントがアクションを独立して実行する。人間は1件ごとではなく、例外や監査ログ、集約された結果をレビューする。ヴァルマ氏は「人間の監督を超える規模と速度で動作する可能性があるため、最も厳格なガバナンスが求められる」と述べる。

具体的には、継続的な監視や厳格なガードレール、迅速なロールバック（以前の状態への復元）の仕組み、閾値超過時に動作を止めるサーキットブレーカーなどが必要で、挙動に対する結果責任は組織が負う必要がある。

自律性の異なるエージェントに一律の物差しを当てるのではなく、それぞれの信頼境界に見合った統制をどう設計するか。それが、40％という「格下げ・廃止」の予測を回避できるかどうかの分かれ目になりそうだ。