生成AIを使った児童の性的搾取・虐待に関わる画像が有料広告として配信されたという調査は、広告審査の責任を問い直すものだ。削除した投稿の多さだけでは、広告の事前審査がどこまで機能したかは分からない。被害につながる素材を再掲せず、調査の指摘とプラットフォーム側の説明、評価に必要な情報を整理する。
本稿は2026年8月10日のイノベトピアの記事を起点に、調査団体のその後の発表とMetaの公式安全情報を照合した。問題の画像やサービスへの誘導を再現するものではない。
通常投稿と広告では確認したい工程が違う
元記事は、Tech Transparency Project（TTP）の調査を伝える8月の報道を紹介し、AI生成の児童虐待に関わる画像を含む50件超の広告が、Metaのサービスで確認されたと伝えている。これは調査団体が見つけた件数で、全広告を網羅した発生率ではない。どのサービスに何件あったかを確認せず、すべてのMeta製品へ同じ内訳を当てはめることもできない。
広告は、利用者が自由に投稿するコンテンツとは別に、広告主とプラットフォームの取引として配信される。発見後の削除だけでなく、配信前の審査、広告主の確認、再投稿への対応、配信後の報告を一続きで見る必要がある。審査があることと、禁止素材を一件も通さないことも同じではない。
その後、TTPを運営するCampaign for Accountabilityは、9月8日の公式発表で、FacebookとInstagramについて332件を確認したと公表している。このため8月の50件超を、10月時点の最新総数として紹介するのは適切ではない。332件も団体の調査結果として扱い、当サイトが広告ライブラリ全体を再調査した件数とはしない。
会社の対策説明と、配信された事実の指摘
元記事はMeta側の説明として、多くの素材を公開前に検出していることや、問題となった広告の到達が限定的だったという回答を紹介している。また、過去1年の大量の削除実績にも触れている。ただし通常投稿を含む削除件数と、今回の有料広告の配信前の阻止率は、母数も対象期間も異なる。
Metaの児童保護技術に関する公式説明は、画像照合やAI・機械学習を用いた検出、削除、報告の取り組みを示している。技術を使っているという説明は、個別の広告がなぜ通過したかを解明する報告とは別である。逆に一つの失敗から、すべての検出が機能していないと結論付けることもできない。
自動審査と人の判断を組み合わせる制度では、処理量のほか、どの種類の素材を見落とすかが重要になる。AIで新しく生成・加工された画像は、既知の画像と同じ特徴だけを探す仕組みでは捉えにくい可能性がある。これは一般的な技術上の課題であり、本件の原因が特定の検出方式だったと確認できたわけではない。
成果を評価するための母数
以下は編集部の考察である。予防の有効性を見るなら、審査へ提出された件数、配信前に拒否した件数、配信後に発見した件数を分ける必要がある。削除が早くても、配信まで通ったこと自体は別の改善対象になる。到達人数が少なかったという説明も、被害の性質をなくすものではない。
さらに、初回の広告だけでなく、同じ広告主や関連するアカウントが形を変えて再提出した場合の対応が関わる。素材単位の削除、広告主単位の停止、遷移先の確認は、それぞれ違う層の対策になる。これらを混ぜて合計件数だけ公表すると、再発をどこまで減らせたかを判断しにくい。
外部調査で見つかった広告は、広告ライブラリで確認できる範囲や調査期間に制約がある。団体が確認した件数を全体の下限に近い観測値として読む場合でも、全体規模を推計するには別の調査設計が必要だ。本稿では広告全体の違反率や、特定の地域での発生率を計算しない。
広告運用側が担える範囲
企業が広告を利用する際は、生成AIで制作した素材も社内の確認対象に含める必要がある。外部の制作会社から納品されたことや、プラットフォームの審査を通過したことだけで、自社の確認を終えない運用が望ましい。権利、人物表現、配信先、遷移先を確認し、問題を見つけた際の停止経路を決めておきたい。
研究や報告のためでも、被害につながる画像を安易に保存・再配布して証拠集を作る方法は適切ではない。公開された調査の文章や、許容される範囲の広告識別情報、通報記録を使い、必要な対応はプラットフォームの報告経路へつなぐべきだ。こうした扱いは、報告の透明性と被害の拡散を分けるために重要になる。
AI利用や公開前の確認体制について、会社情報・相談先はRO合同会社で確認できる。本稿の評価観点は編集部の考察であり、Metaの審査工程を監査した結果や、個々の素材の法的判断を示すものではない。
AI導入支援AI導入・活用でお悩みなら
AI導入センターに無料相談する →
