LLMのテスト時拡張TTA、計算効率で入力多様性が出力多様性を上回る

LLMの推論精度向上は重要ですが、コストが課題です。今回、Test-Time Augmentation (TTA)という新しい手法が、既存のSelf-consistencyよりも計算量あたりの精度で優れることが判明しました。特に中堅モデルにおいて費用対効果が高く、入力の多様性を高めることで、より効率的にLLMの性能を引き出すことが可能です。