TikTok、AI動画検出強化 ハーランド選手の人気動画にも「AIラベル」必要

本物と見分けがつかないAI生成動画のSNS投稿が増加する中、動画投稿アプリ「TikTok」は14日、「AIの透明性」と題したオンライン説明会を開催した。同社はAI生成動画を見分けるための新検出システム導入、来歴情報の標準化団体への運営参画、AIリテラシー教育への投資を行うと発表。TikTokのAI部門担当者は「動画にAIが使用されているか識別できることが重要だ」と述べた。

TikTokの日本での月間利用者は関連アプリを含め4950万人に上り、生成AIを活用した動画も多く投稿されている。写実的なAI生成コンテンツ（AIGC）には「AI生成コンテンツ」のラベル付与を義務付けているが、選挙や災害などを巡るディープフェイク動画の拡散が問題となっている。

TikTokは、1日に1億本以上投稿される動画からAIスパムアカウントを排除する新検出システムを導入すると発表した。対象は政治や時事問題、金融アドバイス、歴史的な残虐行為、医療コンテンツなど、社会の信頼や安全、健康に影響を与える可能性があるジャンルを扱うアカウント。スパムを検出・削除し、オリジナル動画を投稿するユーザーの露出機会を確保する狙いがある。

TikTokのグローバル公共政策本部でAI部門の責任者を務めるトム・ヴァルギス氏は、「スパム的なAIGCの投稿に特化したアカウントをより簡単に見つけて削除できるようにする」と語った。スパムアカウントの検出テストを実施後、今後数週間をめどに導入する予定だ。

同社はデジタルコンテンツの来歴と信頼性に関する対策を標準化する国際団体「C2PA」の運営委員会に参加することも発表した。人間の目では視認できない「電子透かし（インビジブル・ウォーターマーク）」技術を用い、SNSを横断して投稿されるAIコンテンツを追跡・検出する取り組みを強化する。

AIリテラシー教育への投資も積極的に進める。昨年11月に設立した「AIリテラシー基金」を400万ドル（約6億5000万円）に倍増し、TikTokアプリ内に「AIリテラシーハブ」を開設。専門家と連携し、ユーザーが安全にAIを利用するための教育コンテンツを提供する。説明会では、アプリに表示されるAI生成コンテンツの量を自ら調整できる機能も紹介された。

ヴァルギス氏は複合的な取り組みが重要だと強調し、「AIリテラシーは、プラットフォーム、ポリシー、また技術の標準化だけで獲得できるものではない。（利用者も含め）全員が一緒になって取り組む必要がある」と述べた。

TikTokのAIGCを巡っては、人気声優の津田健次郎さんが自身の声を無断で模倣した動画を公開されたとして、同社を提訴するなどのトラブルが発生している。

開催中のサッカーのワールドカップ（W杯）では、ノルウェー代表FWアーリング・ハーランド選手の生成AIによるディープフェイク動画が拡散。中国発祥のAIを使ったファンアートとして楽しむ人がいる一方、本物の動画だと信じてコメントを書き込んだユーザーも多数確認されている。

ヴァルギス氏は産経新聞の質問に対し、「（生成AIラベル付与の）規則に例外はない。ラベルがなければ、私たちがラベルを付ける。C2PAの技術、インビジブル・ウォーターマークを使用して、検出可能にする」と回答。人気を集めたハーランド選手の動画のようなユーモラスなネットミームにもAIラベルが必要だとし、「この問題に対するアプローチは極めて明確だ」と述べた。TikTokはこれまでに30億本以上の動画にラベルを付与したとしている。（西山諒）