コウモリの感覚を知ることと、仕組みを説明すること

コウモリが音を発し反響を受け取る流れと、外からは見えない主観の対比

バーグルエン研究所は11月17日、2026年の哲学・文化賞にトマス・ネーゲルを選んだと発表した。AIをめぐる議論に結びつくのは、ネーゲルが1974年の論文で提起した「コウモリであるとはどのようなことか」という問いだ。本稿の問いは、対話AIが体験を語ったとき、企業や利用者はその発話から何を判断できるかである。

コウモリが音を出し、反響をとらえて移動する仕組みは外から調べられる。ネーゲルが問題にしたのは、その記述をそろえたときに、当のコウモリにとって世界がどう感じられるかを説明できたと言えるかどうかだ。人間が暗闇で音を頼りに移動する姿を想像しても、そこで描くのは人間の想像である。同様に、チャット画面に「怖かった」と表示されたという観察は、言葉が生成されたことを示す。その言葉と結びつく体験の有無を調べるには、別の根拠が要る。この区別から、AIに意識があるかどうかについて直ちに結論が出るわけではない。

発話の観察と、システムの評価を分ける

チャットの発話の観察とモデル内部の評価を別に調べる概念図

Butlinらの2023年の研究報告は、意識についての複数の科学理論から、AIシステムに見いだしうる指標を整理した。会話の印象を集計する方法と比べ、内部で情報をどのように統合するか、複数の処理がその情報にアクセスできるかなど、発話が出る手前を分析対象にできる。報告の対象となった当時のシステムについて著者らは意識があるとは結論しなかった。評価は理論に依存し、指標を満たしたことだけで意識が証明されるわけでもない。本稿はこの報告を、新しい製品の意識の有無を判定した証拠としては扱わない。

開発者が会話の評価を行う場合は、同じ依頼を、感情を表現する役柄を指定した場合と指定しない場合で比べられる。表現が変わったなら、少なくとも会話の設定が発話に影響したと記録できる。発話が変わらない場合も、そこから内面の状態は読み取れない。関連する論点は幻覚と機械の意識をめぐる議論とAIエージェントを人が監督する条件でも扱っている。

利用者に示す説明を実際の機能に合わせる

応対記録と規程を照合して担当者への引き継ぎを確認する工程

たとえば国内の小規模な通販事業者が、返品の相談に応じるAIを入れるとする。「残念なお気持ちを理解しました」という言い回しは会話を滑らかにできる。だが導入評価で測るべきなのは、期限や例外条件の案内に誤りがないか、判断が付かないケースを担当者へ渡せるか、利用者が担当者に相談し直せるかである。共感的な口調の有無は、それらの成績と別に記録すると改善箇所を絞れる。

導入前には同じケースを複数回試し、回答の根拠、受付と承認の区別、引き継ぎ先を確認する。返金の承認をしていないのに確定したと伝える、担当者に代われないのに代われると伝えるといった挙動が残るなら、自動応答を広げる判断は見送る。賞の発表、原論文、研究報告を照合した。特定の製品で意識の評価を実施した記事ではない。

本メディアの運営会社はRO合同会社。

原資料はバーグルエン研究所の受賞発表、ネーゲルの1974年論文、Butlinらの研究報告。題材の参考はイノベトピアの記事。