TACTICL：表形式AIモデルの効率化と適応性を両立する新圧縮フレームワーク

表形式データ向け基盤モデルは高い性能を発揮する一方で、推論コストが課題でした。今回発表されたTACTICLは、Transformer層をプルーニングし軽量アダプターに置き換えることで、モデルサイズと計算量を大幅に削減します。最大85%の層削減でも性能を維持し、データシフトへのロバスト性も兼ね備え、効率性とin-context学習能力を両立する画期的な手法です。