進化する違反コンテンツ、AIと人間の監視で対応――TikTok信頼・安全部門トップに聞く

動画投稿アプリ「TikTok（ティックトック）」の「Trust & Safety（信頼・安全）」部門で北東アジアパートナーシップマネージャーを務める梁秀瑛（ヤン・スヨン）氏が、シンガポール本社で産経新聞のインタビューに応じた。生成AI（人工知能）を使った偽動画の増加や、違反コンテンツの巧妙化が進む中、同社はAIによる自動監視と人間のモデレーター（監視員）の組み合わせで対応を強化している。梁氏は「違反する側も進化している。私たちもそれ以上に早く、正確に対応しなければならない」と話す。

TikTokのコンテンツモデレーションは、AIによる自動モデレーションと、人間のモデレーターによる審査の二本柱で構成される。全世界に数千人以上のスタッフを配置し、24時間体制で監視。違反コンテンツを検知・削除するだけでなく、ガイドラインの策定や改善、警察などの外部機関との連携も行う。梁氏は「技術の発達によって、危険性が高く大規模拡散のリスクがあるコンテンツに、素早く正確に対応できるようになった。人間のモデレーターはより複雑なニュアンスや文脈の判断が必要なケースに集中する方向へシフトしている」と説明する。実際、同社が公開する「コミュニティガイドライン実施レポート」では、自動モデレーションで削除されたコンテンツの件数が年々増加しており、精度向上が確認できるという。

日本では2022年に「情報流通プラットフォーム対処法（情プラ法）」が施行された。TikTokはこれを受け、ガイドライン違反に加えて、権利侵害の申し立てに対応するための報告チャンネルを整備。著作権侵害については、国際的なコミュニティガイドラインだけでなく、日本の著作権法に基づいた判断も行っている。梁氏は「違反コンテンツのデータは『危険リスクシグナル』として蓄積し、類似リスクの早期検知に活かしている。ただし、プライバシーには細心の注意を払い、削除された動画の個人情報は一定期間後に各国の法律に従って破棄している」と述べた。

国政選挙などの大きなイベントを前に、TikTokは体制を強化している。特に近年は生成AIで作られた偽情報や誤情報が問題となっており、同社は独自のポリシーを設けて違反コンテンツを削除し、誤解を招く可能性があるものには「AI生成コンテンツ」としてラベル付けを促す措置を取っている。梁氏は「ファクトとファクトでないものを混ぜた極めて判断が難しいコンテンツが増えている。信憑性が確認できない情報はおすすめフィードの対象外にするなど、段階的な対応を取ると同時に、ユーザーのメディアリテラシー向上も重要だと感じている」と語る。日本では選挙情報サイト「選挙ドットコム」と連携し、信頼性の高い情報源への誘導も行っている。

TikTokはシンガポール、アイルランド・ダブリン、米国ワシントンとロサンゼルスの4カ所に、モデレーションのプロセスを体験できる「透明性・説明責任情報公開センター（TAC）」を設置している。梁氏は「言葉で説明するより、実際に見て体験した方が理解が深まる。日本のクリエイターにも機会を増やしたい」と話す。また、2023年からは実際にTikTokを利用する青少年で構成する「青少年委員会」を立ち上げ、ポリシー改善に彼らの声を反映。成人向けにもクリエイターの意見を聞く場を設けている。親会社「ByteDance（字節跳動）」とのデータ共有については「中国のByteDanceから日本ユーザーのデータへのアクセス、および関連情報の共有を行ったことは一度もない」と明確に否定した。梁氏は「安全な環境があってこそ、ユーザーは創造性を発揮できる。オンラインの安全は一社の努力だけでは実現できない。外部の専門家やパートナーと連携し、『一人の子どもを育てるには一つの村が必要』という言葉通り、社会全体で取り組むことが肝心だ」と締めくくった。