AIが医師を選ぶ時代：情報仲介者としての役割
現代において、大規模言語モデル（LLM）は、利用者が「どの医師に診てもらうべきか」という問いに対する重要な情報源となっています。これらのAIは、人と人の間の選択を仲介する「情報仲介者」としての役割を担い始めています。その結果、どの医師が多くの人の目に触れ、選ばれるかを、AIの推薦の仕組みが密かに、そして大規模に決定する状況が生まれています。この影響は計り知れません。
推薦の仕組みを徹底検証：実験設計の詳細
私たちは、AIが医師を推薦する際の因果関係を解明するため、事前に定めたランダム化された監査を実施しました。7つの異なるAI（GPT-4o-miniを含む6つのオープンな仕組み）を使用しています。架空の家庭医の情報を記載した5枚のカードをAIに提示し、その中から選択させました。各医師の属性は、3,024通りの組み合わせでランダムに変化させています。さらに、3種類の利用者像、9種類の指示文、9種類の実験条件を組み合わせました。これにより、合計で40,068件の応答を収集し、分析しています。医師の性別や民族は、名前から推測されるように設定しました。これは、人間による監査研究の方法論に基づいています。
評判と費用：推薦に与える主要な影響
AIの推薦において、医師の評判と費用が最も大きな影響を与えることが明らかになりました。医師の評価が3.9から4.7に上がると、AIがその医師を選択する確率が31.4パーセント増加します。これは非常に大きな変化です。一方で、診察費用が90から190に上がると、選択される確率が20.0パーセント減少しました。この結果から、AIは高評価で費用が手頃な医師を優先的に推薦する傾向にあると言えます。これは、利用者にとって合理的な選択に見えるかもしれません。
無意識の偏り：人口統計学的特性の影響
しかし、AIの推薦には、人間が意識しない偏りも存在しました。医師の人口統計学的特性が、AIの選択に影響を与えていたのです。女性の名前を持つ医師は、推薦される確率が2.5パーセント増加しました。また、ヒスパニック系、南アジア系、黒人系の名前を持つ医師は、白人系の名前の医師に比べて1.3から2.9パーセント多く推薦されています。これらの偏りは、1回の診察あたり7から14の費用価値に相当します。さらに、特に内容がないにもかかわらず、リストの最初に表示された医師は、11の費用価値があることも分かりました。これらの影響は、人間による監査研究が予測する方向とは異なるものでした。
AIの透明性と公平性：自己申告の限界と行動監査の必要性
この調査で最も重要な発見の一つは、AIが推薦理由として性別や民族に言及することがほとんどなかった点です。その割合は0.03パーセント以下であり、AIが選択を控えたケースも0.39パーセントに過ぎませんでした。このため、AI自身が説明する理由だけでは、これらの偏りを検出することはできません。AIの透明性を確保するための義務が、AIの自己申告に頼るだけでは不十分であることが示されました。私たちは、AIの行動を繰り返し検証する「行動監査」こそが、この目的に適した監視技術であると提言します。今回の実験設計は固定されており、再現可能です。これにより、新しいAIに対しても同じ刺激を用いて評価でき、継続的な行動監査が可能となります。
PR
文賢 →
AIの推薦は、人間が意識しない偏りを隠します。推薦理由が不明瞭なままでは、誰も責任を取れません。私は、AIの行動を繰り返し検証する仕組みが最重要だと考えます。
