← ポッドキャスト一覧に戻る
Podcast · Episode 194

不変学習の目的関数からモデルの学習内容を予測:Landau理論の新展開

8月17日(月) · 5分
不変学習において、目的関数が正則化パスに沿ってどのように振る舞うかは不明瞭でした。本研究は、表現学習を物理学のマルチモード磁化として捉え、Landau型有効自由エネルギーを導出。その低次係数から、正則化がモデルに何を学習させるかを予測する画期的なフレームワークを提案し、実験でその予測能力を検証しました。
前のエピソードPost-Norm Transformerの「ランク崩壊」メカニズムを解明 次のエピソードAI学習とゲーム理論:後悔、均衡、そして戦略的探求