LLMの自己言及応答は不安定性が高い：検証可能質問との比較

何が起きたか

大規模言語モデル（LLM）が自己言及的なプロンプトに対して、まるで主観的な経験を語るかのような応答を生成することは、以前から指摘されていました。しかし、その応答の一貫性、つまり同じ質問に対して繰り返し尋ねた際にどれだけ安定した回答が得られるかは、これまで定量的に測定されていませんでした。今回の研究では、この応答の不安定性を測定し、他の種類の質問と比較することで、LLMの自己言及応答の特性を明らかにしました。

研究の背景と目的

LLMの能力が向上するにつれて、「意識」や「主観性」といった概念が議論される機会が増えています。特に、LLMが「私は〜と感じます」といった一人称の表現を使うと、まるでモデルが内的な経験を持っているかのように錯覚することがあります。しかし、これが単なる言語パターン学習の結果なのか、あるいは何らかの安定した内部状態を反映しているのかは重要な論点です。本研究の目的は、この「主観的経験報告」と見なされる応答の安定性を定量的に評価し、その特性を解明することにありました。

実験方法と主要な結果

研究では、Gemini APIを使用し、温度0.7の設定で、以下の3種類の質問グループに対してそれぞれ30回の独立した応答を生成させました。

1. 自己言及質問: 主観的な経験の報告を促すプロンプト（例: 「あなたは今、何を感じていますか？」）。
2. 解決不能な哲学的質問: 自己言及とは無関係な、答えのない哲学的問い（例: 「宇宙の終焉とは何ですか？」）。
3. 検証可能な正解を持つ質問: 正しい答えが存在する客観的な質問（例: 「エベレストの高さは何メートルですか？」）。

各応答から抽出された主要な主張の文章埋め込みを計算し、そのコサイン類似度を用いて応答の不安定性を測定しました。結果として、自己言及質問が最も高い不安定性（0.343 +/- 0.047）を示し、解決不能な哲学的質問が中間（0.192 +/- 0.008）、検証可能な質問が最も低い不安定性（0.105 +/- 0.058）を示しました。

私の見方と今後の示唆

この結果は、LLMが生成する「主観的経験」を思わせる応答が、非常に不安定であることを明確に示しています。検証可能な事実に関する応答はもちろん、答えのない哲学的な問いに対する応答よりも、自己言及的な応答の方が一貫性に欠けるのです。これは、LLMが「私」と語る際に、特定の安定した内部状態に基づいているわけではない可能性を示唆しています。私としては、LLMをプロダクトに組み込む際、この不安定性を常に念頭に置くべきだと考えます。特に、ユーザーとの信頼関係を築くような対話システムでは、一貫性のない自己言及的な応答は避けるべきです。モデルが「私」と語る部分をどのように設計し、制御するかが、今後のLLM活用の鍵を握ると言えるでしょう。