何が問題か：LLMの「ない」判断の難しさ
LLMは日常的に「このリストにAはありますか？」「この記録にBは記載されていますか？」といった、何かの「不在」を問う質問に答えています。しかし、「ない」と断定するためには、その情報源がクエリの範囲を完全にカバーしている必要があります。例えば、ある人物の行動記録が「1月1日から1月5日まで」しかない場合、「1月6日にその人物がXXをしたか？」と問われて「していない」と断定するのは誤りです。証拠が不完全な場合、正解は「不明」であるべきです。この「完全性感受性否定推論」の能力が、LLMの信頼性において極めて重要だと私は考えます。
研究内容：CROWN-QAデータセットと評価結果
この課題を深く掘り下げるため、CROWN-QAという新しい評価データセットが導入されました。CROWN-QAは、質問と事実を固定しつつ、クエリに対する証拠の「カバー範囲」のみを変化させるCROWN-Synthと、実際の文書を用いたCROWN-Realの2つの部分から構成されています。主要な3つのLLMファミリーに対してこのデータセットで評価を実施したところ、モデルは「ない」と断定すべき状況（Certified-Negative）と、証拠が不十分で「不明」とすべき状況を、安定して区別できていないことが判明しました。
明らかになった課題：過剰な断定と非対称性
評価の結果、LLMは「過剰な閉鎖（over-closure）」、つまり不十分な証拠にもかかわらず「ない」と断定する傾向が顕著に見られました。特にCROWN-Synthでの失敗は非対称的であり、モデルは暗黙的に完全な証拠は認識できる一方で、暗黙的に部分的な証拠を「クエリをカバーしている」と誤認するケースが多いです。プロンプトエンジニアリングを試みても、エラーの種類が「過剰な閉鎖」から「過少な閉鎖（under-closure）」へと移動するだけで、根本的な解決には至りませんでした。証拠のカバー範囲を誤って認識していることが、多くのエラーの原因であると分析されています。CROWN-Realでも、この部分的なカバー範囲に対する非対称性は実文書コンテンツで持続することが示されています。
私の見方：実用上のリスクと今後の展望
この研究結果は、LLMを実ビジネスで活用する上で極めて重要な示唆を与えます。特に、契約書レビューや顧客対応、情報検索といった分野で「ないことの証明」が求められる場面は多々あります。LLMが不完全な情報で安易に「ない」と断定してしまうと、重大な誤解や機会損失、さらには法的な問題に発展するリスクをはらみます。私の経験上、LLMは常に「知っていること」を前提に話すため、「知らないこと」を「ない」と判断してしまう傾向があると感じます。この課題を解決するためには、モデルの推論能力そのものに、情報の「完全性」を評価するメカニズムを組み込む必要があります。単なるデータ量の増加やプロンプトの工夫だけでは限界があるでしょう。LLMの信頼性を高める上で、この「完全性感受性否定推論」の改善は最優先事項の一つです。
PR
文賢 →
LLMは「ない」を安易に断定しすぎます。これは実務で致命的なミスに繋がる。一次情報が揃っているか、常に疑う姿勢が設計者には求められます。不完全な情報から「ない」を導くのは間違いです。
