まだ信用されていない「AIエージェントによる意思決定」 主な検証方法とは

Dynatraceの調査により、エージェント型AIによる判断には人間による検証が不可欠であることが改めて浮き彫りとなった。その具体的な検証手法とは。

同社は2026年3月26日、エージェント型AIに関する調査レポート「2026年版エージェント型AIの動向」を公表した。調査は2025年11月から12月にかけて、世界のシニアリーダー919人を対象に実施された。

日本では回答者100人のうち72%が2026年のエージェント型AI関連予算増額を見込む（グローバル平均74%）。しかし、200万ドル以上の大幅増額は13%にとどまり、グローバル平均の48%を大きく下回るなど慎重姿勢が表れた。

エージェント型AIを社内と社外の両方で活用している企業は日本では11%だった。グローバル平均の50%と比べ著しく低い。

自律型AIエージェントのみの利用は13%、人が監督するAIエージェントのみは23%で、両者を併用する企業が64%と最多を占めた。

回答企業の69%（日本では74%）がエージェント型AIの意思決定を人間が検証している。主な方法はデータ品質チェック（50%）、出力レビュー（47%）、ドリフト・異常監視（41%）、AIエージェント間通信フローの手動確認（44%）だった。

オブザーバビリティー（可観測性）をAIエージェントの検証・監視に活用する動きが広がっている。導入段階での活用が69%で最も多く、運用段階（57%）、開発段階（54%）と続く。

Dynatraceのチーフテクノロジーストラテジスト、アロイス・ライトバウアー氏は「オブザーバビリティーは、エージェント型AIの活用推進に必要な透明性と信頼を支える役割を担う」と指摘する。

エージェント型AIプロジェクトの約50%は概念実証（PoC）や試験導入段階にとどまっている。一方、11件以上のプロジェクトを同時進行する企業は26%に上り、企業間の格差が広がっている。

プロジェクトの優先事項として、リアルタイムインサイトによる意思決定能力の改善（51%）、システムパフォーマンス・信頼性の向上（50%）、運用コスト削減（50%）が挙がった。

本番導入を阻む要因では、セキュリティ・プライバシー・コンプライアンスの懸念が52%で最多、次いでAIエージェントの大規模管理・監視の技術的課題が51%だった。