LLMの新たな学習方法「Chain-of-Experience」
大規模言語生成器（LLM）の能力をさらに引き出す新しい学習方法「Chain-of-Experience（CoE）」が提案されました。これは、人間が経験から継続的に学ぶように、LLMも推論時に繰り返しやり取りすることで能力を高める仕組みです。従来のLLM評価では、このような学習能力は考慮されていませんでした。CoEは、LLMが自己からの意見や環境からの信号を経験として蓄積し、ゼロショット推論（一度の指示で回答を出す方法）を超えた継続的な改善ループを作ることを目指します。
多様な意見を活用した学習
CoEでは、様々な種類の意見（フィードバック）が活用されます。例えば、LLM自身が自分の回答を評価する「自己フィードバック」や、正解・不正解、公開されているコーディングテストの合格率といった「外部からの信号」です。これらを組み合わせることで、LLMはより効果的に学習を進めます。この研究では、GPT-5、Gemini-2.5 Pro、Claude-4.5 Sonnetを含む8つのLLMを使い、数学、コーディング、知識といった幅広い分野でその効果を検証しました。
性能向上と費用削減の成果
研究の結果、反復的な経験を活用するCoEは、意見なしで回答する従来の方法よりも一貫して優れた性能を示すことが分かりました。特に、自己フィードバックだけでも大幅な改善が見られました。全体では、タスクとLLMの種類を問わず、平均で5.6%の性能向上を達成しています。さらに、API利用費用を19%も削減できることも明らかになりました。これは、より少ない試行回数で正確な回答にたどり着けるためです。
組み合わせによるさらなる改善と頑健性
CoEでは、自己からの意見と正解・不正解の信号のように、異なる種類の意見を組み合わせることで、さらなる性能向上が期待できます。また、この仕組みは、LLMの基本的な能力が高いほど、改善する余地も大きいことを示しています。さらに、CoEは、弱い意見や誤った意見が与えられても、その性能が大きく損なわれない頑健性（がんけんせい。壊れにくい性質のことです）も持っています。意見の種類によって改善される側面が異なり、ほとんどの性能向上は学習の初期段階で現れることも分かりました。
PR
文賢 →
LLMの学習は、経験をぐるぐる回すことで進化します。人間と同じです。自己からの意見と外部からの情報をどう組み合わせるか。これは設計者の腕の見せ所です。最速で一次情報を掴み、プロダクトに組み込みます。
