SoftWater、AIモデル軽量化の壁を突破：Softmax層の量子化で精度とサイズを両立

AIモデルの軽量化において、これまで高精度が維持されがちだったSoftmax出力層の量子化は大きな課題でした。この度発表された「SoftWater」は、クラス認識型のレート割り当てにより、Softmax層の量子化を飛躍的に改善します。モデルサイズを大幅に削減しつつ、精度低下を最小限に抑える画期的な手法です。