KGCaReとは何か
LLM（大規模言語モデル）とRAG（検索拡張生成）は、一般的な質問応答には強力ですが、複雑な条件付き質問、特に専門分野においては課題を抱えています。私は、文書と知識グラフ（KG）から抽出した構造化・非構造化知識をRAGに組み込むことで、推論と回答精度が向上すると見ています。この仮説を検証するために、RO合同会社はハイブリッドアプローチ「KGCaRe」を提案しました。これは、LLMが生成した知識グラフ上のシンボリック推論とニューラル検索を組み合わせるものです。
KGCaReの仕組み
KGCaReは、まず文書からマルチプロンプト抽出戦略を用いて知識グラフを構築し、グラフデータベースに格納します。同時に、文書はベクトルストアに埋め込まれ、ニューラル検索を可能にします。KGCaReの革新的な点は、LLMに誘導された反復的なグラフ探索を実行する点です。これにより、関連するトリプルを抽出し、無関係な情報を剪定します。初期探索で十分なコンテキストが得られない場合、追加の手がかりエンティティを用いて再度グラフを探索します。知識グラフからパス形式で抽出された関連トリプルと、意味的に検索されたテキストパッセージは、カスタムのKGCaReプロンプトに供給され、複雑な条件付き質問に対する回答と説明を生成します。
既存手法との比較と成果
私たちは、KGCaReを2つの複雑な条件付きQAデータセットで評価しました。その結果、KGCaReは、Vanilla LLM、Code Prompt、Text Prompt、Think-on-Graph、Vanilla RAG、HybridContextQAといった既存のベースライン手法を一貫して上回る性能を示しました。これは、Mistral、Mixtral、GPT-3.5、GPT-4oなど、複数のLLMで確認されています。この結果は、構造化された知識と非構造化された知識を組み合わせ、LLMの推論能力を最大限に引き出すことの重要性を示唆しています。私たちは、このKGCaReアプローチを実装するために開発したソフトウェアパイプラインを公開しています。
複雑な質問に答えるには、LLMに何を与えるか、どう与えるかが全てです。知識グラフで構造化する発想は正解です。私なら、どの粒度でグラフを構築し、どうグルグル回すか、最速で一次情報を取りに行きます。
