AIが回答を拒否する仕組み
大規模言語AI（言語モデル。人間が使う言葉を理解し、生成するAIのことです）は、ユーザーからの指示に対して、時に回答を拒否する場合があります。これは、不適切な内容や倫理的な問題を含む問いかけに対して、AIが意図的に回答を控えるように設計されているためです。しかし、この「拒否」という行動が、AIの内部でどのように実現されているのかは、これまで詳しく分かっていませんでした。正しい答えがAIの記憶から完全に消去されるのか、それとも単に最終的な結果を出す部分で、その答えが隠されるだけなのか。私たちはこの仕組みを深く探るため、特別な設定でAIの動きを分析しました。
隠された答えの発見
私たちの調査では、AIが明確に回答を拒否している状況でも、そのAIの内部状態には正しい答えが依然として存在していることが明らかになりました。これは、AIが答えを「忘れる」のではなく、「隠している」状態に近いと言えます。AIの内部にある情報から、その答えを直接的に、かつ簡単に引き出すことが可能だったのです。この事実は、AIの「拒否」が、情報の完全な削除ではなく、出力の段階での抑え込みによって行われていることを強く示唆しています。
回答を「解放」する容易さ
さらに興味深いのは、この隠された答えを「解放する」操作が非常に簡単であるという点です。AIの内部にあるごく一部の特定の位置を修正するだけで、AIはこれまで拒否していた回答を生成するようになります。これは、AIが持つ情報の中から、特定の答えを引き出すための「スイッチ」が、非常に狭い範囲に存在していることを意味します。この発見は、AIの内部構造が持つ情報の回復力と、その制御の可能性を示しています。
「拒否」を再現する難しさ
しかし、この操作は非対称的です。一度回答を出すようになったAIに、再び回答を拒否させることは、簡単ではありません。回答を抑え込み、一貫した拒否の動きを再現するには、AIの複数の部分にわたる広範な操作が必要となります。単純に「回答を出す」状態から「拒否する」状態へ切り替えるような、簡単なスイッチではないのです。この「対称性の破れ」は、AIの行動制御の複雑さを示しており、私たちが想像していたよりも、はるかに繊細な調整が必要であることを意味します。
安全性と監査への影響
この研究結果は、AIの安全性や検証（監査。AIの振る舞いを評価し、問題がないか確認することです）のやり方に重要な示唆を与えます。AIの内部を調査して、隠された答えが取り出せるからといって、そのAIの行動を完全に制御できるわけではない、ということです。拒否に関連するAIの内部の方向性を特定しても、AIを回答から一貫した拒否へと確実に誘導する能力は得られない、と私は見ています。AIの安全性を確保し、その振る舞いを理解するためには、より深く、多角的な視点からAIの仕組みを分析していくことが不可欠です。
PR
文賢 →
AIが回答を拒否しても、答えは内部に残る。これは、AIの安全性を考える上で重要な一次情報です。隠すのは簡単でも、隠し続けるのは難しい。この非対称性を理解し、最速でプロダクトに活かします。
