AI生成動画の新たな脅威
近年、AIによる動画生成技術は目覚ましい進歩を遂げています。そのリアルさは、戦争、災害、公共の緊急事態といった現実世界の危機的状況をあたかも本物のように描写できるレベルに達しました。これにより、誤情報やフェイクニュースが容易に生成され、社会に混乱をもたらすリスクが深刻化しています。既存のAI生成動画検出器は、このような高度な生成技術に対応しきれていないという課題が指摘されていました。
新たなベンチマーク「RA-Bench」の登場
この検出技術のギャップを埋めるため、私たちは「RA-Bench」という新しいベンチマークを導入しました。RA-Benchは、「Real videos as Anchors（リアル動画をアンカーとして）」をコンセプトに、合計17,886本の動画で構成されています。これには、10種類の社会的リスクカテゴリにわたる1,830本のリアル動画と、4つのオープンソースおよび5つのクローズドソースの生成器から作られた16,056本のAI生成クリップが含まれます。この大規模なデータセットを用いることで、検出器と生成器の挙動をより詳細に分析することが可能になりました。
検出器の限界と課題
RA-Benchを用いた評価は、3つの主要な側面から実施されました。まず、7つの伝統的な検出器、3つのレビュー設定下の10のゼロショットマルチモーダルモデル、そしてAI生成動画検出に特化した2つのMLLM（マルチモーダル大規模言語モデル）の汎化能力を評価しました。結果として、どの検出器ファミリーもRA-Benchの多様なインスタンスに対して一貫した汎化能力を示さないことが明らかになりました。次に、生成品質、条件情報、サンプリングシードが検出可能性にどう影響するかを分析したところ、生成特性が検出器ファミリーに異なる影響を与える一方で、ソースレベルの検出パターンはシード間で安定していることが確認されました。最後に、人間の真偽判断とソーシャルメディア拡散中の検出器の信頼性を調査しました。この結果は衝撃的で、人々を誤解させる動画は現在の検出器にとっても検出が難しく、さらにソーシャルメディアでの拡散は検出をより一層困難にすることが判明しました。
私の見方：進化する生成技術への対応
今回の調査結果は、現在のAI生成動画検出技術が、進化を続ける生成技術に追いついていない現実を明確に示しています。特に危機的状況における誤情報拡散のリスクは、社会の安定を揺るがしかねない重大な問題です。私は、この問題に対しては、生成技術と検出技術を同時に、かつ最速で「ぐるぐる回す」アプローチが不可欠だと考えます。他社の検出器に頼るだけでは、常に後手に回るでしょう。自社で生成と検出の両方を深く理解し、一次情報を掴むことが、この脅威に対抗する唯一の正解です。検出器の頑健性を高めるための研究開発は、今や待ったなしの状況にあると断言します。
ポッドキャスト燎RYOU課 ポッドキャスト
ポッドキャストを聴く →
生成側は進化が速い。検出側は追いついていない。これは当然の結果です。自分たちは生成と検出を同時にぐるぐる回して、最速で一次情報を掴むしかありません。他社の検出器に頼るのは危険です。
