説明可能なAIの核心：CAM技術の現状
Class Activation Mapping (CAM)は、説明可能なAI（XAI）分野において最も広く利用されている視覚的説明手法の一つです。その目的は非常に直感的で、AIモデルの内部的な判断根拠をヒートマップとして可視化し、特定のクラスや概念を支持する画像領域、畳み込みチャネル、トークン、またはパッチを強調表示します。これにより、AIが「どこを見て」判断したのかを人間が理解できるようになります。
2016年に最初のCAMが提唱されて以来、この分野は大きく進化してきました。当初はGlobal Average Poolingを用いたCNN分類器に限定されていましたが、現在ではその適用範囲は大幅に拡大しています。本レビューは、2016年以降に発表された57本の論文を厳選し、その手法を中心に体系的に分析しています。
CAMの進化：CNNから基盤モデルへ
CAMスタイルの手法は、勾配ベースの後ろ向き説明、勾配フリーのスコアおよびアブレーション手法、高解像度アップスケーリング、弱教師あり局所化およびセグメンテーションなど、多岐にわたる進化を遂げてきました。特に注目すべきは、Transformerモデルにおけるトークン帰属や、因果関係およびバイアス除去の手法、そしてCLIP、DINO、SAMといった基盤モデル時代のアプローチへの適用です。
この進化の大きなトレンドは、初期の「低解像度CNN層における単一クラススコアの説明」から、「比較可能で、多層的、確率的、トークン認識型、そして基盤モデル認識型の説明」へとシフトしている点です。AIモデルが複雑化し、多様なアーキテクチャが登場する中で、CAMもそれに合わせて柔軟に形を変え、説明能力を高めてきました。私の見方では、これはAIの進化とXAIの進化が密接に連動している証拠だと感じます。
評価の課題と今後の方向性
CAM技術の進化は目覚ましいものがありますが、その評価方法には依然として課題が残されています。忠実性（Faithfulness）、局所性（Localization）、堅牢性（Robustness）、計算コスト、そして人間からの信頼（Human Trust）といった評価指標は、しばしば異なるプロトコルで測定されており、統一された基準が確立されているとは言えません。この断片化された評価は、異なるCAM手法間の比較を困難にし、研究の進展を妨げる要因にもなっています。
本レビューは、各手法が何に貢献したかだけでなく、どのようなギャップを残し、その後の手法がどのようにそのギャップを埋めようとしたかにも焦点を当てています。業界全体としては、より統一された評価フレームワークの確立が急務です。私の経験上、評価基準が曖昧なままでは、どんなに優れた技術も真価を発揮しにくいものです。今後は、これらの評価課題を克服し、より信頼性の高い説明可能なAIを実現するための研究が加速すると考えます。
AIが何を根拠に判断したか、可視化は必須です。しかし、重要なのは、その情報から何を読み取り、どう改善に繋げるか。ただヒートマップを見るだけでは一次情報になりません。私はこの可視化を、プロダクトの精度と信頼性を最速で高めるための材料として活用します。ぐるぐる回して、結果を出します。
