LLMの不確実性検出に新手法：アテンション経路の「脆さ」が鍵

大規模言語モデル（LLM）が自信満々に誤った回答を生成する「自信過剰な誤り」は、実用化の大きな課題です。最新の研究では、従来の出力分布の広さだけでなく、アテンション経路の「脆さ」がモデルの不確実性を反映すると提案。新手法ASMIは、この脆さを測定することで、特に文脈依存の質問応答において、自信過剰な誤りを大幅に削減できる可能性を示しました。