LLMの実行効率を革新する「MACRO」：レイヤー動的ルーティングで性能と速度を両立

大規模言語モデル（LLM）の処理効率を飛躍的に向上させる新フレームワーク「MACRO」が発表されました。これは、LLMのレイヤー実行を動的に最適化し、タスクに応じた最適なパスを学習する技術です。モデルの重みを変更することなく、未ルーティングのベースラインと比較して平均5.0%の精度向上を達成。特に小規模モデルで大きな効果を発揮し、既存の動的ルーティング手法Dr. LLMを凌駕しつつ、ルート探索時間を9.4倍短縮しました。LLMのさらなる普及と活用を加速させる画期的な進歩です。