LLMの知識境界と具体性：なぜ「知らない」と言えないのか

LLMの「知らない」問題：なぜ嘘をつくのか

大規模言語モデル（LLM）は、近年目覚ましい進化を遂げ、多岐にわたるタスクで人間レベルのパフォーマンスを発揮しています。しかし、その一方で、根深い問題として「ハルシネーション」が指摘されています。これは、LLMが自身の知識範囲外の事柄について質問された際に、事実に基づかない、もっともらしい架空の詳細を生成してしまう現象を指します。例えば、存在しない人物の経歴を詳細に語ったり、架空の出来事を史実のように説明したりするケースがこれに該当します。

本来、情報提供者として最も重要なのは「真実性」です。人間であれば、知らないことに対しては「分かりません」と答えるか、あるいは「一般的な情報としてはこうです」と、より安全で抽象的な回答に後退します。しかし、現在の多くのLLMは、この「後退」という振る舞いをほとんど行いません。あたかも全てを知っているかのように振る舞い、具体的な情報を生成し続ける傾向があります。この問題は、LLMが提供する情報の信頼性を大きく損ない、特に専門的な分野や意思決定支援の場面での活用を阻害する要因となっています。私は、このハルシネーションの問題を根本的に解決することが、LLMが真に社会に貢献するための喫緊の課題だと考えています。

グライス的視点からの分析：協調の原則と情報性・真実性

このLLMのハルシネーション問題に対し、私は言語哲学者のポール・グライスが提唱した「協調の原則」という視点から深く分析を進めています。グライスは、人間が円滑なコミュニケーションを行う上で、暗黙のうちに守っている四つの格率（量、質、関係、様態）があることを示しました。特にこの問題に関わるのは、「質の格率」（真実であれ、根拠のないことを言うな）と「量の格率」（必要なだけの情報を提供せよ、必要以上の情報を提供するな）です。

人間は、対話において不確実な参照対象について語る際、情報性を犠牲にしてでも真実性を優先するという傾向があります。例えば、遠くに見える鳥について「あれは何という鳥ですか？」と聞かれたとき、正確な鳥の種類を知らなければ、「鳥です」と答えるのが最も安全で真実性の高い回答です。「カラスです」と断定して、それが実はハトだった場合、コミュニケーションの信頼性は損なわれます。つまり、人間は「知らない」という状況において、より一般的な、より抽象的な表現へと後退することで、真実性を担保しようとします。LLMがこの人間的な、協調的な振る舞いを模倣できていない現状は、モデルの根本的な設計思想や学習プロセスに課題があることを示唆していると私は見ています。

内部信号の存在と生成時のギャップ：T-RExベンチマークの示唆

私の調査では、LLMがグライス的な「後退」を実行するための内部的な要素を持っているのかどうかを詳細に検証しました。具体的には、T-RExベースのベンチマークを使用し、エンティティの馴染み度（モデルがそのエンティティをどれだけ知っているか）と、参照対象の具体性（「人物」「俳優」「トム・クルーズ」のような階層）を系統的に変化させて、LLMの内部状態をプローブしました。プローブとは、モデルの内部活性化パターンを分析することで、特定の情報がモデル内にエンコードされているかを調べる手法です。

この詳細な分析の結果、驚くべき事実が明らかになりました。LLMの内部活性化パターンは、「参照対象が自身の知識境界内にあるか（つまり、知っているか知らないか）」という情報と、「生成しようとしている参照対象の具体性がどの程度か」という情報の両方を明確にエンコードしていることが判明したのです。これは、LLMが内部的には「このことは知らない」「この情報は一般的なレベルで話すべきか、具体的なレベルで話すべきか」といった判断を下すための「基盤」を持っていることを意味します。

しかし、問題はここから発生します。これらの重要な内部信号は、実際のテキスト生成プロセスにおいて、うまく活用されていないことが判明しました。モデルは、たとえそのエンティティが未知であり、内部的に「知らない」と認識している場合であっても、圧倒的に具体的な参照対象を生成することを優先する傾向があります。さらに、正しい一般的な選択肢（例：「俳優」）が提示された場合でさえ、具体的な（そしてしばしば架空の）回答（例：「トム・クルーズ」）を選んでしまうのです。この結果は、LLMが内部で認識していることと、外部に出力する行動との間に大きなギャップがあることを明確に示しています。私は、このギャップこそが、ハルシネーション問題の根源の一つであると断言します。

グライス的アラインメントへの第一歩：信頼できるAIへの道

本研究が示すのは、LLMがグライス的な「後退」を実行するための「基盤」はモデル内部に存在しているものの、その基盤に基づいて行動するための「ポリシー」が欠如しているという現状です。私は、この「ポリシーの欠如」を解決することが、LLMの信頼性と実用性を飛躍的に向上させるための鍵だと考えます。

今後の重要な課題は、知識境界の認識と生成時の参照対象の具体性を密接に結びつける「グライス的アラインメント」を実現するための、新たなトレーニング手法や誘導目標を開発することです。具体的には、モデルが自身の知識境界外の情報を検出した場合に、より一般的な表現への後退を促すような損失関数を設計したり、デコーディング戦略において真実性を優先する制約を導入したりすることが考えられます。また、ファインチューニングの段階で、不確実な情報に対する「知らない」という応答や、より抽象的な表現への切り替えを積極的に学習させることも有効でしょう。

「知らない」と正直に言えるAI、不確実な情報に対しては安全な表現に後退できるAIは、単にハルシネーションを減らすだけでなく、ユーザーとの間に真の信頼関係を築く上で不可欠です。私は、この「グライス的アラインメント」が、LLMが単なる情報生成ツールから、真に信頼できる協調的なパートナーへと進化するための第一歩であると確信しています。最速でこのアラインメントを実現し、LLMの次のフェーズを切り開くことが、私たちの使命です。