AIが暴走する前に——“検証する人間”が足りなくなる日

米マサチューセッツ工科大学（MIT）、ワシントン大学、カリフォルニア大学ロサンゼルス校（UCLA）の研究チームがこのほど発表した論文「Some Simple Economics of AGI」が、AI経済の本質を鋭くえぐり出している。人工知能が知的労働の多くを担う時代が目前に迫るなか、経済や社会の行方をめぐる議論は加熱の一途をたどっているが、この論文は「2つのコスト曲線の衝突」という独自の視点で未来を整理した。

AIの普及を左右するのは、技術の進歩そのものよりも、むしろ「自動化コスト」と「検証コスト」という二つのコスト曲線のせめぎ合いだという。自動化コストはAIの性能向上によって急速に低下し続ける。一方、AIが生み出した成果を確認し、責任を持って承認する「検証コスト」は、人間の能力に依存するためほとんど下がらない。この非対称性こそが、AI時代の経済構造を決定づける鍵だと研究者たちは指摘する。

論文が描く未来像は大きく四つに分かれる。第一は「アバンダンス（豊かさの爆発）」と呼ばれる楽観シナリオ。AIエージェントが研究、設計、開発、サービス提供を並行してこなすようになれば、生産性はけた違いに向上し、モノやサービスの価格は下落。人間は労働から解放され、ゆとりある生活が手に入る——テクノロジー業界で語られるこうした夢物語は、確かに一つの可能性だ。

しかし、第二のシナリオはその逆を行く。AIの開発と運用には莫大な計算資源、電力、データが必要だが、それらのインフラはいま、ごく一部の大手企業や国家に集中している。この偏在が続けば、AIによる生産手段は限られたプレーヤーの手に握られ、巨大企業が経済の大半を支配する富の集中が加速する。技術の進歩が格差を深める構図が浮かび上がる。

さらに論文が警鐘を鳴らすのが第三のシナリオ「Hollow Economy（空洞経済）」だ。AIエージェントが指標やKPIの最適化に特化すると、数値上の成果は上がっても、人間が本当に求める価値は置き去りにされる。論文は「エージェントは測定可能な指標を満たす成果を生み出すが、人間の意図を満たさないまま資源を消費する可能性がある」と警告する。つまり「数字は伸びるが、社会が豊かになったと感じられない」状態が現実化する恐れがある。

そして、最も重要な第四の未来として浮上するのが「人間の検証能力の限界」である。AIがタスクを実行する能力は爆発的に向上しているが、その結果を確認し、責任を持って承認できるのは今のところ人間だけだ。研究者たちは「AI時代のボトルネックは知能ではなく、人間の検証能力（verification bandwidth）になる」と断言する。もしこの見方が正しければ、人間の仕事の重心は大きく変化する。従来の「作る」「実行する」から、「監督する」「検証する」「責任を持つ」という監査者的な役割へと移行するだろう。

AIを監督する仕事が本当にやりがいのあるものになるのか、誰が無限に増殖するエージェント群を管理できるのか——そうした問いが現実味を帯びてくる。技術的な課題をクリアした先に待っているのは、人間自身の限界との格闘かもしれない。本稿は、エクサウィザーズが法人向けChatGPT「exaBase 生成AI」の利用者向けに提供するAI新聞「AI経済の4つの未来」（2026年3月13日掲載）を、ITmedia ビジネスオンライン編集部で一部編集の上、転載したものである。