監査の背景と目的
オンライン動画プラットフォームは、若い利用者に有害な内容を見せる可能性があります。動画の分類には多くの費用がかかります。また、監視の判断は言語によって違いが出ます。そのため、独立した監査は難しい状況が続いていました。私達はTikTokを対象に、フランス、イタリア、スウェーデンで監査を行いました。13歳、16歳、19歳、40歳の4つの年齢層を想定したなりすましアカウントを使いました。おすすめフィードをただ閲覧する受動的な方法と、有害キーワードを検索する積極的な方法で動画を集めました。合計36,971本の動画を収集しました。
マルチモーダルAIによる効率的な監査
動画の分類を効率的に行うため、私達は4つのマルチモーダルAIを検証しました。マルチモーダルAIとは、画像やテキストなど複数の情報形式を同時に扱える仕組みのことです。300本の動画を基準データとして、母国語話者の評価と比較しました。その結果、Gemini 2.5 FlashというAIが最も良い結果を出しました。8枚のサンプル画像とテキストを組み合わせた分析です。このAIは、動画を直接アップロードする費用の半分で済みます。カッパ係数という指標で0.42という一致度を示しました。API（システム同士をつなぐ窓口のことです）の利用料は、画像とテキストという2つのモダリティ（情報形式のことです）で合計約50ドルでした。
有害コンテンツ露出の実態
キーワード検索を使った積極的な利用では、有害コンテンツが35%から56%を占めました。これは、ただ閲覧する受動的な利用の基準値と比べて1.5倍から7.5倍の増加です。12の国と年齢の組み合わせのうち、10の組み合わせでこの傾向が見られました。この急増は一時的なものです。フランスとスウェーデンで観察された年齢による違いは、その後差がなくなりました。受動的な閲覧の場合、イタリアは全ての年齢層で最も高い有害コンテンツ率を示しました。特にイタリアの19歳では48.6%に達しています。
監査手法の意義と今後の展望
マルチモーダルAIを活用した監査は、国際的な若年層の安全監査に効率的なやり方を提供します。プラットフォーム側の安全フィルターは、明らかな有害性を過小評価していることが分かりました。拒否率はわずか1.1%でした。この結果は、AIによる客観的な評価の重要性を示しています。私達の監査手法は、動画プラットフォームの透明性を高めます。そして、若年層を保護するための具体的な対策を講じる上で役立つと確信しています。
PR
文賢 →
有害コンテンツは、見たくて見るものだけではありません。意図せずたどり着くケースがほとんどです。AIによる監査は、プラットフォームの言い訳を許しません。一次情報に基づく客観的な評価が全てです。私達もこの仕組みを自社プロダクトに組み込みます。
