AIエージェントと共に働くリスクとは？ PwCが説く実践的ガバナンス

AIエージェントの活用拡大に伴い、安心・安全に利用するためのリスク管理が急務となっている。PwCコンサルティングはサイバーセキュリティに限らない包括的なガバナンスの必要性を強調し、企業に実践的な対応を求めている。

この記事は会員限定です。会員登録すると全てご覧いただけます。

自律的に業務を遂行するAIエージェントが企業で導入され始める中、PwCコンサルティングはリスク管理の重要性を改めて説く。同社の見解をもとに、AIエージェントと共に働くリスクを考察する。

「AIエージェントと一口に言っても自律レベルや機能ドメインに違いがある。それらを踏まえたリスク管理が必要だ」と、PwCコンサルティングの村上純一氏（執行役員 パートナー）は2026年7月17日の記者説明会で語った。

同社はトレンドマイクロと共同でAIエージェントのサイバーリスク分析と実証研究を行い、その成果を「自律するAIの時代−AIエージェントのサイバーリスクと実践的ガバナンス」として公開。会見はその概要説明だった。

本稿では、村上氏が「AIエージェントをめぐるサイバーリスクの捉え方」と題して説明した内容が、サイバー攻撃だけにとどまらない包括的なリスク管理の話であると捉え、関連図を示しながらエッセンスを紹介する。

図1はAIエージェントの自律レベルを6段階で示す。村上氏は「自律性レベル4以上から、従来のセキュリティ対策では対応できないリスクが急増する」と指摘。レベル5では人間が初期目標を設計すれば後は業務が継続的に実行される。

図1では左側に6段階のレベル、中央に各レベルの定義、右側に人間の役割が記されている。レベル5ではAIエージェントが自ら学習し能力を高める可能性があり、筆者は料金体系の変化もリスクとして捉えるべきだと考える。

図2はAIエージェントの機能ドメインを示す。村上氏は「一般的に想定されるAIエージェントの機能は大きく6つのドメインに分解できる。各機能ドメインが連携して循環動作することで目標を達成する」と説明した。

図2では左に機能ドメイン、右に各ドメインの関係性・連携の構図が記されている。機能ドメインは「思考」（認知エンジン、推論・計画）、「記憶」（メモリ・状態）、「行動」（ツール・外部連携）、「監督」（オーケストレーション、ID・ガバナンス）に分解され、右図は複数のAIエージェントが協働するエージェンティックAIの全体像を表す。

図3はAIエージェントを取り巻くサイバーリスクを示す。村上氏は「ビジネスケース、自律レベル、設計、実装、運用に応じてさまざまなサイバーリスクが想定される。表面化する事象は多岐にわたるため、個別対処ではなく発生原因を理解し対応することが重要だ」と指摘した。

図3は図1の自律レベルを横軸、図2の機能ドメインを縦軸にしたマトリクスであり、各セルに想定されるサイバーリスクが記されている。

図4は自律レベルが上がるにつれて明らかになるリスクの質の変化を示す。村上氏は「低自律レベルでは情報の正確性、適切性、データセキュリティ、プライバシーが主なリスクだが、レベルが高まると意図しない行動、システムの乗っ取りや制御不能といった深刻なリスクに発展する」と述べた。

これらの議論を踏まえ、村上氏は「現時点でAIエージェントにおいて考慮すべき論点を示したい」として、非人間アイデンティティー管理、ヒューマン・イン・ザ・ループ、外部環境との安全な相互作用の3点を挙げた（図5）。

図6は非人間アイデンティティー管理における課題を示す。村上氏は「非人間アイデンティティーの作成や削除に関して、文章化され正式に採用されたポリシーが存在する組織はおよそ2割にとどまる」と述べ、過剰な権限付与、明確な所有権・説明責任の欠如、可視性の欠如を懸念点として指摘した。

図6の左グラフは「組織においてAIツールで使用されるIDの作成・削除に関する明確な方針があるか」という質問に対し「はい」と答えた企業が約2割であることを示し、右グラフは課題の根拠となる調査結果を示している。

この非人間アイデンティティー管理の課題について村上氏は図7を示しながら「これらは独立した課題ではなく相互に影響し問題をさらに悪化させる。個別の対処ではなく非人間アイデンティティーのライフサイクル管理プロセスを構築し運用することが肝要だ」と述べた。

図8はヒューマン・イン・ザ・ループを示す。村上氏は「AIエージェントの自律的な判断や行動に対して、人間がどのように関与し、起きていることを把握し統制するかを設計、運用する必要がある」と述べた。

図8の左には「判断プロセスのブラックボックス化」「目標逸脱と計画の暴走」「Agent2Agentの委任における説明責任の希薄化」の3リスクが記されている。特に3つ目のリスクではAIエージェント間での責任のたらい回しが起きる可能性があり、筆者はAIエージェントが人間組織の良し悪しを映し出すと感じた。右図にはヒューマン・イン・ザ・ループの設計・運用における考慮点が挙げられている。

図9は外部環境との安全な相互作用を示す。村上氏は「AIエージェントが外部のデータやツール、システムと安全に接するための設計、運用が必要だ」と述べた。

図9の左には「信頼できないデータの取り込み」「ツールの悪用と予期しない連携」「サプライチェーンの信頼性棄損」の3リスクが記され、右図には外部環境との安全な相互作用を確保するための考慮点が挙げられている。

以上が村上氏の話だが、筆者はその内容がサイバー攻撃だけにとどまらず、AIエージェントを安心・安全に活用するための包括的なリスク管理であり、さらに「AIエージェントと一緒に仕事をするとはどういうことか」を示唆していると感じた。

（注1）「自律するAIの時代−AIエージェントのサイバーリスクと実践的ガバナンス」（PwC）

フリージャーナリストとして「ビジネス」「マネジメント」「IT／デジタル」の3分野をテーマに複数のメディアで執筆。電波新聞社、日刊工業新聞社などで記者およびITビジネス系月刊誌編集長を歴任後、フリーに。主な著書に『サン・マイクロシステムズの戦略』（共著）、『新企業集団・NECグループ』、『NTTドコモ リアルタイム・マネジメントへの挑戦』など。1957年8月生まれ、大阪府出身。

Copyright © ITmedia, Inc. All Rights Reserved.