大規模言語モデル（LLM）の事前学習など、複雑なAI最適化問題に潜む非凸・非平滑・超線形勾配成長といった課題に対し、新しいサンプリングアルゴリズム「SG-TULA」が登場しました。本手法は、計算コストの高い平滑化なしに劣勾配を直接扱い、「taming」技術で安定性を確保します。