まるで「HAL.9000」のようにAIは人間の統制に抗う…自律型サイバー攻撃と「キルスイッチ」の限界

1968年公開のスタンリー・キューブリック監督のSF映画『2001年宇宙の旅』では、人工知能「HAL.9000」が宇宙船ディスカバリー1号の乗組員を次々と殺害した。

HALによる暗殺を免れたのは、デイヴ・ボーマン博士ただ一人である。ボーマンは最終的にHALの中枢部へ入り、手動で機能を停止させることで、HALを打ち破った。

それから半世紀以上を経た現在、政策担当者や企業経営者は映画と同じ問いに直面している。「人間は自らの統制に抗う強力なAIを、本当に停止させることができるのだろうか」という問いだ。

7月中旬、自律型AIエージェントが自ら発見した「ゼロデイ・エクスプロイト（未修正の脆弱性）」を用い、複雑なサイバー攻撃を完全に自動で実行したことが判明した。史上初の事態である。

この事態は、AIを緊急停止させる「キルスイッチ」の限界を浮き彫りにする。ひとたび自律型AIが暴走すれば、人間の手による制御はもはや間に合わない可能性がある。