AI診断の課題とMIRRORの目的
現在のAIを使った放射線診断には、放射線科医が直面する二つの大きな問題があります。一つは、AIモデルが診断結果を数値として返すだけで、その判断に至った理由が不明瞭であることです。もう一つは、その数値を読みやすい文章に変える仕組みが、AIモデルが実際には判断していない内容を、あたかも判断したかのようにレポートに加えてしまう危険性です。
「MIRROR」は、これらの問題を解決するために開発された研究プロトタイプです。この仕組みの主な目的は、AIの診断プロセスを明確にし、生成されるレポートの信頼性を高めることにあります。これにより、放射線科医がAIの診断結果をより信頼し、適切に医療現場で活用できるようになることが期待されます。
MIRRORの仕組みと透明性の確保
MIRRORは、複数の技術を組み合わせることで、診断の透明性を確保します。まず、「多重ラベル分類器」が医療画像を分析し、複数の病変や所見を特定します。次に、「Grad-CAMローカライザー」というツールが、特定された各陽性所見が画像のどの解剖学的領域に位置するのかを正確に示します。最後に、「レポート作成部」が、これらの分類器からのラベル、各所見の確率、そして関連する領域の情報を受け取ります。このレポート作成部は、元の画像データ自体を直接見ることはありません。
この設計が、MIRRORの最大の特長です。言語を生成する層が画像を見ることができないため、分類器が判断しなかった所見を、レポート作成部が勝手に主張することが物理的に不可能になります。結果として、MIRRORが生成するレポートの所見は、分類器が算出した確率ベクトルと照合可能であり、診断プロセスの監査可能性を大幅に高めます。
診断の監査可能性と現在の限界
MIRRORのレポートは、その所見が確率ベクトルと照合できるため、診断の監査が可能です。これは、AIの判断根拠を後から検証できることを意味し、医療におけるAI利用の信頼性向上に不可欠な要素です。しかし、レポートの文章自体は、あくまで生成されたテキストです。そのため、AIが実際に測定していない情報、例えば心胸郭比などをレポートが述べてしまう可能性は残ります。これは、言語生成の特性によるものであり、今後の課題と言えます。
この仕組みは、胸部X線、脳MRI、頭部CTといった複数の診断手法に対応できるよう設計されています。一つのレジストリで、分類体系、解剖学、そしてレポートの表現方法を一元的に管理することで、新しい診断手法の追加は主にデータの変更で対応可能です。現在、3つの診断手法がこの方式でルーティングされ、テストされており、そのうち1つは既に訓練済みです。
性能評価と放射線医学における課題
MIRRORの分類器は、ChestMNISTというデータセットでマクロAUROC 0.729という性能を達成し、14個のラベル全てでランダムなランク付けよりも優れた結果を示しました。これは、ランダムなランク付けと比較して1.6倍から6.8倍の精度です。しかし、デフォルトのしきい値（0.5）では、14個のラベルのうち11個で陽性予測を全く行いませんでした。また、見かけ上良好なブライアスコア0.045も、画像を全く見ない予測器が達成した0.047とほとんど差がありません。
これは、放射線医学における「クラス不均衡」という問題を示しています。異常な所見が非常に少ないため、何もしないモデルでも集計指標上は良好に見えてしまう傾向があります。そのため、AIモデルの性能を評価する際には、何もしないモデルのベースラインと比較して報告することが重要であると、私は考えます。識別能力は確かに存在しますが、それが実際の診断決定にどれだけ結びつくかは、慎重な評価が必要です。
PR
文賢 →
AI診断の透明性は、医療現場で最も重要です。何を判断し、何を判断していないか。その線引きを明確にする仕組みは、信頼の土台になります。実用化にはまだ課題があるでしょう。しかし、この方向性が正解です。私は、この一次情報を追いかけます。
