EU、AIサービスに透明性義務化　ディープフェイク被害防止で日本企業も対応

欧州連合（EU）は2日、包括的な人工知能（AI）規制法に基づき、対話や画像を生成するAIサービスを提供する企業に対し、透明性の確保を義務付けた。AIとの対話であることや、AIによって生成された偽画像であることを利用者に明示しなければならない。

利用者が成り済ましや、AIで巧妙に作られた偽の画像や動画「ディープフェイク」で欺かれるリスクを減らす狙いがある。違反すれば制裁金が科される可能性があり、欧州で事業を展開する日本企業も対応が求められる。

新たな規制では、自動対話システム「チャットボット」で利用者が誤認する恐れがある場合には、AIが相手だと知らせるよう求めた。実在する人物や場所に似せたディープフェイクについては、アイコンの表示などでAIによる生成や加工であることを示すよう要請している。

さらに、AIで感情を認識するシステムでも利用者への通知を求めた。EUは包括的なAI規制法に基づき、リスクの段階に応じた規制を段階的に導入しており、今回の透明性義務もその一環として位置づけられる。

対象となるのはEU域内でサービスを提供するすべての事業者で、日本企業も例外ではない。各社は表示方法やシステムの改修など実務的な対応を急ぐ必要がある。