AIは「嘘」と「不可能」をどう捉えるか
言語は「偽り」と「不可能」の両方を表現できます。AIモデルがこれらを内部でどう区別しているかは、これまで不明確でした。私は、マルチモーダルオープンウェイトモデルGemma 3 4B ITを用いて、この疑問を探るための探索的な活性化研究を実施しました。17の哲学的カテゴリから85のプロンプトと、15のトピックに合わせたモダリティセットを使用し、それぞれを「真実」「偶発的な偽り」「ありそうもない主張」「意味的異常」「必然的な偽り」として表現しました。この研究の目的は、AIがこれらの異なるタイプの言語表現を、内部でどのように区別し、表現しているのかを明らかにすることです。
モデルの応答と活性化のギャップ
モデルの応答を見ると、興味深い結果が得られました。Gemma 3 4B ITは、15の「偶発的な偽り」の記述のうち12を「矛盾」とラベル付けし、「偶発的な偽り」と「矛盾」を混同していることが分かりました。しかし、内部の活性化パターンは異なる様相を示しています。線形真偽プローブを用いた分析では、「不可能」な記述と「真実」の記述を高い精度（AUC 0.93）で分離できました。一方で、「不可能」な記述と「偽り」の記述の分離は困難でした（AUC 0.20）。この結果は、モデルが表面的な応答とは異なる、より複雑な内部表現を持っていることを示唆しています。
「不可能」の独自の表現空間
さらに、「不可能」プローブを用いて、保持されたトピックカテゴリで評価したところ、「必然的な偽り」と「偶発的な偽り」をAUC 1.00という非常に高い精度で分離できました。この分離はレイヤー15でピークに達し、バランス精度は0.97（Bonferroni調整済みP=0.018）でした。これは、「真実」と「不可能」の方向がほぼ直交していることを意味します。つまり、モデルは「不可能」な記述を「真実」や「偶発的な偽り」とは異なる、独自の表現空間で処理しているということです。また、「不可能」の方向は「意味的異常」の方向と部分的に重なるものの、明確に区別できることも判明しました。
意味的異常との関連性
同じレイヤーのスパースオートエンコーダー特徴も、この幾何学的な関係を裏付けています。「不可能」に選択的な特徴は、「意味的異常」な文にも発火しますが、「偶発的な偽り」にはほとんど発火しません。私の見方では、このモデルの活性化空間において、「必然的な偽り」は「偶発的な偽り」の極端なケースではなく、「意味的異常」という実験的に定義されたカテゴリに近い位置にあると言えます。これは、「不可能」な記述が本質的に無意味であるということを意味するものではありません。むしろ、AIが言語の複雑なニュアンス、特に哲学的な区別をどのように内部で表現しているかを示す、重要な手がかりであると感じます。この相関的な観察は、一つの小さなモデルからのものですが、哲学における古くからの区別に経験的な脚注を加えるものだと私は考えます。
書籍ゼロからはじめるCodex
Kindleで読む →
AIが「嘘」と「不可能」を区別できるなら、それは大きな一歩です。しかし、人間が「不可能」だと決めつけること自体が、AIの可能性を狭めることになりかねません。私は、AIに限界を設けず、一次情報を取りに行きます。
