AIが仕掛ける情報操作の深層
VIGINUMとINSIKT GROUPは、2025年に「Storm-1516/CopyCop」と名付けられた大規模な情報工作活動を公表しました。この活動は、人工知能を駆使して偽の情報を広めることを目的としていました。私たちは、この活動で使われたフランス語の宣伝記事2,646本を詳細に分析しました。これは、人工知能がどのように情報を作り出し、拡散するのか、その制作過程を鑑識する初めての試みです。比較材料として、同じ時期に人間が書いたフランスの主要な報道記事集も用意しました。この調査は、デジタル時代における情報セキュリティの新たな課題を浮き彫りにしています。
偽情報記事の言語的特徴を分析
私たちはまず、トピック分析という手法を用いて、記事の内容を分類しました。次に、曖昧さ分析と感情分析を行いました。これにより、偽情報記事が持つ独特の言語的特徴を明らかにしました。人工知能が生成した宣伝記事は、人間が書いた一般的な報道記事と比べて、はるかに曖昧な表現が多く使われていました。また、主観的な意見や否定的な感情を強く打ち出す傾向が見られました。さらに、情報の信頼性を担保するはずの情報源の引用が極めて少ないことも特徴です。これは、読者に特定の感情や意見を植え付け、客観的な判断を妨げるための意図的な手法だと考えられます。
漏洩した「生成指示書」の衝撃
この調査で最も重要な発見の一つは、人工知能への生成指示文が漏洩していたことです。私たちが調査した84のウェブサイトのうち、50のサイトから、記事を生成するための具体的な命令文が見つかりました。特に注目すべきは、10項目にわたる詳細な編集方針がそのまま記された指示書です。この指示書には、「あいまいな表現を使うこと」「感情に訴えかけること」「情報源を明記しないこと」といった内容が含まれていました。これは、先に特定された人工知能生成記事の特徴が、偶然ではなく、明確な意図を持って作られたことを示しています。また、多数の記事間で表現や内容の重複が非常に多かったことも、この指示書に基づき、人工知能が大量に記事を生成した証拠と言えます。
AIの仕組みを特定し、対策へ繋げる
私たちは、記事の特定の表現や構造を書き換えるという手法を用いて、この情報操作に関与した人工知能の仕組みを特定する分析を行いました。その結果、INSIKT GROUPが以前から指摘していたLlama 3系の人工知能が使われていた可能性が高いことが、私たちの分析でも裏付けられました。さらに、Mistral系の人工知能もこの活動に関与していた可能性が示唆されています。複数の異なる人工知能生成技術が連携して、このような大規模な情報工作が行われていたと推測されます。この知見は、今後、人工知能が関与する偽情報活動を検知し、防御するための新たな技術開発に役立つでしょう。どの人工知能が、どのような指示で、どのような情報を生成したのか。この一連の流れを解明することが、情報セキュリティの最前線では不可欠です。
ポッドキャスト燎RYOU課 ポッドキャスト
ポッドキャストを聴く →
AIによる情報操作は、その生成過程を解明するまでが勝負です。誰が、何を、どう指示したか。この一次情報を掴めば、次の防御策を最速で構築できます。私は常に、攻撃側の手の内を読み解くことに集中しています。
