奈良市の相談AI、24時間の入口を人の支援へつなぐ設計

若い世代へ届く入口をどう作るか

前身の女性問題相談について市が公表した令和7年度の実績は1,630件で、年代別の記録では10代、20代ともに0件だった。これは相談した人数ではなく件数であり、年齢不詳も含まれる。若い人には悩みがなかった、若い人が一人も相談しなかったと断定できる資料ではない。市の発表

それでも、市が対応時間などの制約を課題として挙げたことには意味がある。日中の電話が難しい人、声を出して話せる場所がない人に、従来の窓口が使いやすかったとは限らない。LINEへの入力を入口にし、AIが24時間365日話を聞く構成は、その到達の難しさを小さくする試みとして読める。

対象は家庭やパートナー、生き方、性に関する悩みなど。調達仕様書は市内在住・在勤・在学の人を対象とし、相談者の性別を問わないと定めている。名称から利用できる人を狭く推測せず、公式案内で対象を確認したい。

傾聴と危険時の応答を分ける

AIは気持ちを否定せず、考えの整理を支援する役割を持つ。ただし、自傷・他害の予告や犯罪を促す内容に対しては、肯定や共感を示さず、制止、注意喚起、専門機関への案内を行うよう仕様書で求めている。すべての発言に同意する仕組みではない。

さらに、やり取りからリスクを検知し、管理画面にアラートを表示し、市担当者や受託者の緊急連絡先へ通知することが要件になっている。AIが一人で緊急度を最終決定して対応を終える設計としては説明されていない。専門職のアセスメントや、必要な報告・通報の体制が組み合わされる。調達仕様書PDF

当然、仕様書に検知機能があることは、あらゆる危険を漏れなく発見できるという保証ではない。相談文が短い場合や、遠回しな表現もある。導入側には、過剰な警報と見逃しの双方を確認し、現場の対応能力と合わせて改善する責任が残る。

問題のない応答だけを想定しない

仕様書で注目したいのは、運用開始までに整える相談支援マニュアルである。不適切な共感、誤情報、差別的な表現が生じた際の即時修正と、利用者へのフォローを含めるよう求めている。DVや性暴力に関する二次被害の防止、トラウマへの配慮、高リスク事案の判定基準や引き継ぎ手順も対象だ。

「誤らないようにする」という開発上の目標だけでは、相談の運用は完結しない。誤った返答を利用者が読んだ後、誰が状況を確かめ、どのように説明し、支援へつなぐかまで必要になる。これは他の自治体が相談AIを調達する際にも、機能表と別に確認したい部分である。

受託者の専門職には、社会福祉士、精神保健福祉士、臨床心理士、公認心理師のいずれかの資格と、行政や非営利法人などでの相談実務経験を要件としている。単にAIシステムを保守できる会社を選べば成立する業務ではない。

履歴を持ったまま人へ切り替える

通常の有人相談は、月曜から土曜の10〜16時で、12〜13時、祝日・年末年始を除く。相談者の同意を得て、AIとの対話を引き継いだ市の相談員が電話で対応する。つらい経験を繰り返し最初から説明する負担を減らす狙いがある。

夜間に入力できることと、その場で通常の電話相談を受けられることは分けて理解する必要がある。一方、仕様書は緊急性が高いと判断した際の時間外対応も求める。夜はAIだけに任せ、朝まで一律に待つという要件でもない。受託者の専門職が最重度と判断した場合などには、警察や児童相談所等への通報につながると事業者は説明している。

有人相談の中心は市職員であり、受託者の代替は市の相談員が急に不在となる場合に限る。仕様書は年10回程度、1回最大6時間と見積もっている。24時間AIが動くという宣伝から、同じ人数の専門職が常時待機するサービスだと想像しないことが大切だ。

「学習しない」とデータの利用範囲

相談には非常に機微な情報が含まれる。仕様書は、相談内容をAIモデルの追加学習へ利用することを禁止する一方、個人を特定できない形でサービス改善へ使う場合には、市の書面による事前承認を要すると定めている。この条件を省き、データは何にも使われないと案内するのは正確ではない。

国内での保存や処理、通信・保存時の暗号化、アクセスや操作の記録も要件に含む。ただしデータ管理の条項には、国外クラウドを利用する場合に市との協議・書面承認と安全管理措置を求める記載もある。国内要件だけを取り出して、例外もなく全処理が必ず国内だと一般化しないようにしたい。

委託終了時にはデータを市へ渡したうえで、復元できない方法で削除し、消去証明書を出すことが求められる。バックアップや管理用アカウントを含めて、サービスを終える工程まで調達の対象になっている。

利用者向け規約は更新され得るため、実際の登録時に、どの情報が支援機関へ渡るか、緊急時の情報提供、改善や効果検証への利用を確認する必要がある。今回、元記事が示した規約PDFのURLは取得時に404となった。詳細を古いリンクだけで断定せず、現行の市の案内と利用時に表示される規約を参照してほしい。

440万円から分かること、分からないこと

開札録には、つながりAI株式会社による税込440万円の落札が記されている。委託期間は契約締結日から令和9年8月31日まで。AI相談の構築・運用、管理画面、周知用チラシ、マニュアル、報告書などを含む業務である。開札録PDF

この金額を相談1件の単価や、他自治体の導入相場へそのまま換算することはできない。記載の入札者は1社で、規模や既存体制をそろえた比較でもない。稼働率99%以上という要件も、相談が解決する割合や、危険検知の精度を意味しない。

成果の検証では、相談件数の増加に加えて、人へつながるまでの時間、希望しても切り替えられなかった場面、誤応答後の対応、利用を途中でやめた理由なども考えたい。導入前に少なかった層へ実際に届いたかを確認するには、件数だけでなく分母や集計方法も必要になる。これらは当サイトの評価上の提案であり、現在の実績値ではない。

他の組織が参考にできる設計

この事例から参考にできるのは、AIの導入そのものより、相談の入口、危険時の対応、人への切り替え、データの終わり方を一緒に定めたことだ。LINEを使いにくい人に情報が届くか、従来の電話番号終了後に迷う人がいないかなど、入口を変える際の案内も重要になる。

支援が必要な人に、まずAIとの会話を完了するよう求める運用にはしない。緊急の場合は通常の相談サービスの応答を待たず、警察や救急など適切な緊急窓口を利用する必要がある。AIは支援の到達点ではなく、状況に合った人や機関へつなぐ一つの経路として考えたい。

当サイト運営のRO合同会社は企業のAI業務設計に関する相談先であり、本記事の公的相談窓口の運営者ではない。自治体の相談サービスの利用は、奈良市の公式案内から確認してほしい。

参考報道：イノベトピア。市の発表・現行案内・調達仕様書・開札録を照合した。