AIと人間が動画を監視　TikTok情報公開センターでモデレーション体験

SNSを舞台とする嫌がらせや誹謗中傷、課金トラブル、犯罪的行為への勧誘などが社会問題化し、SNSを運営するプラットフォーム企業は青少年を保護する社会的責任が増している。こうした中、動画投稿アプリ「TikTok（ティックトック）」はシンガポールのグローバル本社に、モデレーション（投稿監視）の体験ができる「透明性・説明責任情報公開センター（TAC）」を設置し、日本を含むアジア全域で適切な利用の促進や違反行為の排除をアピールしている。TikTok日本法人によるTACのメディア向け公開に産経新聞の記者が参加し、取り組みの概要や動画の推薦アルゴリズムの説明を聞くとともに、実際にモデレーションを体験した。

TikTokは、2017年に日本向けにサービスを開始。月間利用者が4950万人と急成長する一方、子供をめぐる課金トラブルなども起きている。

同社はシンガポールをはじめ、米国のワシントンとロサンゼルス、アイルランドのダブリンにTACを設置し、世界中のユーザーによる投稿を監視している。シンガポールのTACで責任者を務めるロイ・テオ氏は、青少年向けの取り組みについて、「18歳未満には、美容整形や流血を伴うスポーツの動画などは表示されないようになっている」などと説明した。

不適切な動画を削除するモデレーションでは、昨年末までの3カ月間で約2億500万件を削除。このうち約89%がAI（人工知能）の判定に基づいて行われた。1000以上の違反をAIに学習させており、キーワードやリンク先のURL、音声も判断に利用している。

AIによる判定は「違反か否か」の二者択一ではなく、「95%の確信度でナイフ」といったパーセンテージで算出。確信度が80〜90%といった「グレーゾーン」の動画は、人間のモデレーター（監視員）による判定に回される。また「バズった」動画は、正当な理由で人気になったのかどうかを確認するため、人間が再度チェックしているという。

ただモデレーターは、違反項目のタグ付けを行うが、削除は行っていない。テオ氏は「動画の削除は『ポリシーメーカー』や『バックエンドロジック』に基づいて（機械的に）行われる」と話した。

メディア公開の日には、模造ナイフや酒瓶の動画を使ったデモンストレーションが行われ、AIが違反の確信度をリアルタイムで計算する様子がディスプレーに映し出された。

テオ氏は「AIは文脈の判断が得意ではない」と指摘する。そのため、それぞれの国の法律や文化を理解する現地のモデレーターによる確認が欠かせないという。

日本語や日本文化を理解するモデレーターは全体の2.5%で、言語別では14番目の多さという。日本語のモデレーターの人数は明かさなかったが、これまでの公開情報から推計すると360人程度とみられる。そのうち「情報流通プラットフォーム対処法」（情プラ法）に対応するための専任のモデレーターは6人と公表されている。

違反動画の判定は、公開されているコミュニティガイドラインと、地域特性を反映したローカルの「プレーブック（規則集）」の2つに基づいて行われている。違反した動画は、削除される場合もあれば、「おすすめ」フィードに表示させない〝シャドウバン〟という措置が取られるケースもあるという。

動画の推薦アルゴリズムの仕組みも一部公開された。アルゴリズムが動画を推薦する「おすすめフィード」は、閲覧時間全体の80%以上を占めているという。

おすすめの最終段階では、人間が作った規則を適用し、表示される動画の多様性を確保していると解説した。同じ投稿者の動画ばかり表示されることを防ぐため、8本中4本は同じ国や地域のクリエイターの動画を選ぶといったルールを設けている。

新しく動画投稿を始めたクリエイターが目立てるように、少数の利用者の中で人気になった動画は、より多くの視聴者に届く仕組みが取り入れられている。

TikTokでは、特定のコンテンツばかり表示される「フィルターバブル」の発生を防ぐため、動画の類似性を計算していると明かした。動画推薦のアルゴリズムは「数学」と表現。また、おすすめフィードはユーザー自らリセットすることができると紹介した。

TikTokは、子供の安全な利用に関するテレビCMを放送したり、メディアに取り組みを説明する機会を設けたりと、安全対策に関してアピールを続けている。

一方でTikTokは、日本よりも高い透明性を求められる米国や欧州連合（EU）などで、一段高いデータの保存やアクセスに関する取り組みを行っている。

米国ユーザーのデータは、米国企業のデータセンターに保存される。英国やEUでも、欧州域内にユーザーデータが保存されている。日本のユーザーのデータは、シンガポール、マレーシア、アイルランド、米国など世界各地に保存されている。

欧州諸国では、出稿されたデジタル広告も公開されている。研究者に対しては、投稿された動画データなどへのアクセスを認めている。

日本では、選挙に関連したレポートの公表や、詐欺広告の対策に欠かせないデジタル広告の公開、研究者へのデータのアクセス権の付与も行われていない。

韓国やフィリピン、タイでも、選挙の透明性の確保のために、削除された動画の種類や数の推移が公開されている。

TikTokは各国の法令に合わせて情報公開のレベルを変えており、日本向けの情報公開は限定的だ。

記者はTACの専用ブースで、投稿動画のモデレーション作業を体験した。

座席に着くと、画面上に「安全性と礼節」「慎重に扱うべきテーマと成人向けテーマ」など、TikTokのコミュニティガイドラインに沿った体験メニューが用意されていた。

ヘッドホンを装着して音声を聞きながら、動画に違反する内容が含まれているかどうか確認していく。問題ない動画もあれば、複数の違反が見つかる動画も存在する。モデレーターは、具体的に「暴力と犯罪行為」「身体の露出と性的行動」といった違反に該当するかどうか判断していく。

暴力的な動画や、性的な動画をチェックし続けることは、ストレスが大きく、心の健康に良いとは言い難い。TikTokでは、モデレーターのメンタルヘルスの維持にも注力しているという。

体験では、回答した違反項目について正解、不正解が示される。画面上には、フォロー数やいいねの数、動画を等間隔で切り抜いた画像（スニペット）も表示されている。

しかし、モデレーション作業を繰り返すうちに、少しずつ再生される動画を隅々まで確認していこうという意欲が薄れていった。

確認作業を体験する前は、「どうせ適当にチェックしているのだろう」と考えていた。実際には、細かく全編を見通すことは難しいという側面もあることが少しずつ分かってきた。

だからといって、モデレーションをすり抜ける違反コンテンツの存在は看過できない。普段、TikTokでは著作権侵害とみられるアニメや映画などの動画をよく見かけるが、AIを含めたモデレーションによってもっと規制できるのではないかと感じた。（西山諒）