0 / 5 節読了

ライブECにおけるAIアバターの役割と要求

ライブECの市場は急速に拡大しており、AIアバターの活用は顧客エンゲージメントと売上向上に不可欠な要素となりつつあります。AIアバターは、視聴者からの商品に関する質問に即座に答え、彼らとの対話を深め、そして企業が設定するキャンペーンや販売戦略をリアルタイムで反映する役割を担います。このため、AIアバターには極めて高いパフォーマンスが求められます。具体的には、応答速度が速いこと、提供する情報が正確であること、そしてビジネス上の要件（例えば、新しいプロモーション、法令順守の変更、ブランドイメージに合わせた話し方など）に素早く適応できる能力が不可欠です。これらの要求を満たせなければ、顧客体験は損なわれ、ビジネス機会を逃すことになります。

「制御の枠組み」の設計思想と課題

私たちは、AIモデルの柔軟性を高めるため、「制御の枠組み」という革新的な仕組みを開発しました。この仕組みは、AIの機能、連携機能、システムへの指示、外部ツールといった要素を、AIモデル自体の重み（学習によって得られた知識）から切り離すことを目的としています。この設計の最大の利点は、AIモデルを再学習させることなく、これらの要素を動的に変更し、AIの実行時の動きを調整できる点にあります。しかし、この制御の枠組みが進化し、頻繁に更新されると、新たな課題が生じます。以前の設定で調整された小型AIモデルは、過去の名前、データ構造、指示文の型を記憶してしまう傾向があります。そのため、現在の最新の制御設定にうまく従えず、期待通りの動作をしないことがあります。一方で、事前学習だけで多様な指示に対応できる、より強力な大規模言語モデル（LLM）は、その計算コストの高さから応答速度が遅く、リアルタイム性が求められるライブECの現場では実用的ではありません。この「適応性」と「応答速度」の間のトレードオフが、AIアバターの実用化における大きな障壁となっていました。

「制御の枠組み対応学習（HAT）」のメカニズム

この複雑な課題を解決するために、私たちは「制御の枠組み対応学習（HAT）」という新しい学習手法を考案しました。HATの核心は、AIの学習プロセスにおいて、制御の枠組みの状態そのものを学習データ分布の一部として組み込むことにあります。これにより、AIは変化する制御の枠組みに対して、より頑健に適応できるようになります。HATは、特に「役割を維持する制御の枠組み状態拡張（HSA）」という技術を適用します。HSAは、AIの機能、外部ツールのデータ構造、指示文の構造、そして対話の制約といった要素に、多様な制御の枠組みの状態を模倣したバリエーションを加えることで、AIが様々な状況に対応できるように訓練します。この学習プロセスは、以下の3つの段階で構成されます。第一に、HSAに基づく教師あり調整（SFT）を行い、基本的な知識と指示への対応能力を確立します。第二に、一般的な能力を回復するための知識蒸留を実施し、特定の制御の枠組みに過度に特化しないようバランスを取ります。そして第三に、HSAに基づくAIエージェントの強化学習を、本番環境を考慮したライブ配信シミュレーターで行います。これにより、AIは実際の運用に近い環境で、変化する制御の枠組みの中で最適な行動を学習します。

実証実験とその成果

私たちは、HATの有効性を検証するために、4,500件以上の評価ケースを含む4つの異なる評価データセットを用いて大規模な実験を行いました。その結果は非常に有望なものでした。私たちの開発した小型35Bモデルは、実際のライブ配信QAにおいて94.8点という非常に高いスコアを達成しました。これは、ベースとなる基本モデルの80.3点や、当時最も強力と評価されていた汎用大規模言語モデル（LLM）の93.0点を上回るものです。さらに重要な点として、制御の枠組み変化対応QAにおいても94.6点という高得点を記録しました。これは、制御の枠組みが変化してもAIの性能が維持されることを明確に示しています。また、IFEval（指示に従う能力を評価するベンチマーク）でも83.5点を維持しており、HATが特定のタスクに特化しつつも、一般的な指示に従う能力を損なわないことを証明しています。対照的に、HATを適用せず、固定された制御の枠組みで教師あり調整（SFT）を行ったモデルでは、IFEvalのスコアが7.7点も低下しました。応答速度の面でも、NVIDIA H20 GPUとMTP（Multi-Turn Prediction）を有効にした環境でのテストでは、P50（半数の応答が完了する時間）で3.407秒、P95（95%の応答が完了する時間）で8.114秒という、ライブECで実用可能なレベルの低遅延を実現しました。これらの結果は、HATが応答速度が実用的な小型AIエージェントを生み出し、評価された制御の枠組みの変化にも効果的に対応しつつ、一般的な指示に従う能力を犠牲にしないことを明確に示しています。

業界への影響と今後の展望

このHAT技術の登場は、AIアバターの進化において画期的な一歩です。AIが環境の変化に自律的に適応できる能力を持つことは、ライブECだけでなく、カスタマーサポート、教育、医療など、リアルタイム性が求められるあらゆる分野に大きな影響を与えるでしょう。特に、ビジネス戦略や規制が頻繁に変わる現代において、AIがその変化に即座に対応できることは、企業の競争力を大きく左右します。私の見方では、この技術はAIの「現場対応力」を飛躍的に向上させます。これにより、AIは単なるツールではなく、ビジネスパートナーとして、より深く、より柔軟に企業活動に貢献できるようになると考えます。今後は、この技術をさらに発展させ、AIが予測不能な変化にも対応できるような、より高度な適応能力を持つモデルの開発に注目が集まるでしょう。

PR

ElevenLabs →
柴亮太
柴亮太の視点

AIが進化する仕組みは、常に変化します。古い知識に固執するモデルでは、現場は回せません。新しい制御の枠組みに即座に対応できる学習は、一次情報を取り続ける私にとって必須です。最速で取り込み、ぐるぐる回します。