第4章 ChatGPT API・RAG・外部データ連携
想定学習時間: 9分
RAG（Retrieval-Augmented Generation）を使ったAIチャットボットを構築する際、その中心となるのがナレッジベースです。ナレッジベースとは、AIが質問に回答する際に参照する情報の集まりを指します。
社内マニュアル、FAQ、サービス資料、料金表、商品情報、操作手順、営業資料、規約、過去の問い合わせ対応例など、多岐にわたる情報を整理し、AIが効率的に探せる形で保管します。
AIチャットボットの回答品質は、使用するAIモデルの性能だけでなく、このナレッジベースの作り方によって大きく左右されます。たとえ高性能なAIモデルを使っていても、ナレッジベースが整理されていなければ、回答は不安定になりがちです。逆に、AIモデルが特別に高性能でなくても、ナレッジベースがよく整理されていれば、実務で役立つ回答を返すことができます。
AIチャットボットを開発する際、ついAIモデルやツールそのものに注目しがちですが、実務で成果を出すためには、AIに渡す知識の整理が非常に重要です。
ナレッジベースは、AIにとっての「本棚」のようなものです。本棚が乱雑であれば、AIは必要な情報を見つけにくくなります。古い情報と新しい情報が混在していれば、誤った情報を参照するリスクがあります。また、同じテーマで内容が異なる資料が複数あれば、AIはどれを信じるべきか判断に迷うでしょう。見出しが不明瞭であれば、そもそも検索に引っかからない可能性もあります。
そのため、AIに資料を投入する前に、この「本棚」を丁寧に整える必要があります。
効果的なナレッジベースを構築するための具体的な手順を見ていきましょう。
ナレッジベース作りの最初のステップは、目的を明確にすることです。以下の点を具体的に定義します。
この目的が曖昧なまま資料を集めると、不要な情報まで含めてしまい、AIの回答精度を低下させる原因となります。例えば、経費精算に関する質問に答えるボットであれば、営業資料や採用資料は不要です。
次に、現在手元にある情報をすべて洗い出します。ホームページ、FAQページ、営業資料、マニュアル、社内規定、過去の問い合わせ対応例、スプレッドシート、社内チャットの回答など、情報がどこに散らばっているかを確認します。
多くの組織では、情報が一か所にまとまっておらず、古い情報や矛盾する情報が混在していることがあります。棚卸しは、こうした情報の散らばりを見つけ出す重要な作業です。
洗い出した資料の中から、必ず最新版だけを選びます。料金、プラン、営業時間、キャンペーン、社内ルールなどは頻繁に変わる可能性があるため、古い資料が混ざっていると、AIが誤った情報を回答する原因となります。古い資料は削除するか、AIが参照しない場所に移動させましょう。どうしても履歴として残す必要がある場合は、「過去資料」として明確に区別します。
一つの巨大な資料をそのままナレッジベースに入れるよりも、内容ごとに細かく分割した方がAIは関連情報を探しやすくなります。例えば、50ページのサービス資料であれば、「サービス概要」「料金」「導入の流れ」「よくある質問」といった具体的なテーマごとに分けます。
分割の目安は、利用者が質問しそうな単位です。「料金について」「キャンセルについて」「有給申請の方法」のように、質問と結びつきやすい単位で整理すると良いでしょう。
また、AIは資料内の見出しや構造を手がかりに検索するため、見出しは具体的かつ明確に設定することが重要です。「その他」「注意」のような曖昧な見出しではなく、「キャンセル料が発生する条件」「経費精算の締め日」のように、内容がわかる見出しにします。
AIチャットボットでは、利用者の質問と回答が直接対応するFAQ形式の資料が非常に有効です。ただし、FAQは会社側が想定する質問だけでなく、実際の問い合わせログから利用者がどのような言葉で質問しているかを把握し、それに合わせた形で作成することが重要です。
さらに、単なる事実情報だけでなく、回答例もナレッジベースに含めると良いでしょう。これにより、AIは会社らしい言い方やトーン、対応手順を学び、より自然で適切な回答を生成しやすくなります。特に外部向けチャットボットでは、利用者に安心感を与える口調が重要です。
ナレッジベースには、AIに答えさせたい情報だけでなく、答えさせたくない範囲も明確にする必要があります。例えば、士業、医療、保険、投資、契約など、専門的な判断や個別具体的な状況に応じたアドバイスは、AIに任せるべきではありません。これらの内容については、資料内に「AI回答ルール」を設け、断定的な回答を避け、人間への引き継ぎを促すようにします。
また、AIが答えられない場合や、より詳細な情報が必要な場合に、どこに案内するのかを明確にしておくことも重要です。担当部署、問い合わせフォーム、電話番号、営業時間、緊急時の窓口など、具体的な問い合わせ先をナレッジベースに含めておきましょう。
料金表や商品仕様など、表形式の資料は人間には見やすいですが、AIが正確に読み取れない場合があります。特にPDFに埋め込まれた表や画像化された資料は注意が必要です。重要な表は、テキストでも内容を説明しておくことで、AIが検索しやすくなります。
また、資料にはメタ情報（資料名、カテゴリー、対象者、更新日、担当部署、公開範囲、優先度など）を付与することで、管理や更新が容易になります。特に公開範囲は重要で、AIに見せてよい情報と、見せてはいけない情報を明確に区別することが大切です。
ナレッジベースは、作成したら終わりではありません。情報が古くならないよう、更新ルールを確立することが不可欠です。誰が、いつ、どのように更新するのか、古い資料をどう扱うのかなどを具体的に定めます。ナレッジベースは、作るよりも維持する方が重要であると言えます。
AIチャットボットを公開すると、必ずナレッジベースにない質問や、AIがうまく答えられなかった質問が出てきます。これらの会話ログは、ナレッジベースを改善するための貴重な材料です。会話ログを定期的に分析し、FAQの追加、説明の補強、見出しの修正、人間への引き継ぎ条件の追加などを行うことで、ナレッジベースは継続的に成長していきます。
ナレッジベースを初めて構築する際、まずは以下の5つの要素から始めることをおすすめします。
これらの要素があれば、最初のAIチャットボットはかなり実用的なものになるでしょう。
ナレッジベースを整えることは、AIのためだけでなく、人間にとっても情報が使いやすくなるという大きなメリットがあります。営業資料の整理、FAQの整備、社内マニュアルの検索性向上、新人教育への活用、問い合わせ対応の統一など、組織全体の情報活用能力が高まります。
つまり、ナレッジベース作りは、会社の知識を資産化する作業そのものです。AIチャットボットは、その資産を会話で活用するためのツールに過ぎません。資産そのものが整理されていなければ、AIはその真価を発揮できないのです。
ナレッジベース作りは地味な作業に見えるかもしれませんが、ここを丁寧に構築し、維持する会社ほど、実用的で強力なAIチャットボットを運用できるようになります。AIの性能だけに頼らず、会社の知識をAIが使える形に整えること。それが、実用的なAIチャットボット構築の中心にある考え方です。
人にたとえると
新しい情報検索係が配属された会社。
新しい情報検索係は、お客様からの質問に答えるために、社内の資料室から必要な情報を見つけ出す役割を担います。資料室が乱雑で、古い資料と新しい資料が混在していたり、同じ内容の資料が複数あったりすると、検索係は正しい情報を見つけるのに時間がかかったり、間違った情報を伝えてしまったりします。そこで、資料室の担当者は、検索係が効率的に仕事ができるよう、資料を整理し、最新版だけを保管し、見出しを明確にし、どこに何があるかを分かりやすく配置する作業を行います。また、検索係が答えられない質問については、誰に引き継ぐべきかも明確にしておきます。