警視庁、「シャドーAI」リスクを「ゆるめの図」で解説　情報漏えいなど3点を注意喚起

警視庁のサイバーセキュリティ対策本部は5月12日、公式Xアカウントで、従業員が会社の管理していないAIサービスを業務で使う「シャドーAI」に注意喚起した。投稿には「ゆるめの図」と呼ばれる可愛らしいイラストが添付され、潜在する3つのリスクをわかりやすく解説している。

同本部は、個人情報や企業秘密が外部に漏れる「情報漏えい」、AIが出力した文章や画像が既存の著作物を無断利用する「著作権侵害」、AIが事実と異なるもっともらしいうそを出力する「ハルシネーション」の3つのリスクを挙げ、シャドーAIの危険性を訴えた。

特に情報漏えいについては、従業員が無料のAIサービスに入力したデータが他者に閲覧される可能性や、企業の機密情報が学習データとして利用されるリスクを指摘。安易な入力を控えるよう呼び掛けた。

著作権侵害では、AIが生成した画像や文章が第三者の著作権を侵害するケースが想定されるため、外部公開には慎重な判断が必要。ハルシネーションについても、出力内容を鵜呑みにせず、事実確認を徹底するよう求めている。

なお、ハルシネーションや著作権侵害の問題は、企業が正式に契約した商用AIサービスであっても発生しうる。同本部は、AIを利用する際は常にリスクを意識し、適切な運用を図るよう注意を促している。