大規模言語モデル圧縮に新手法SubFit、arXivが発表
arXiv cs.CLが2026年6月1日(現地時間)付けで報じたところによると、大規模言語モデル(LLM)の学習後圧縮に関する新たな研究論文が公開された。エリア・クネガッティ (Elia Cunegatti) 氏らは、既存の圧縮手法が持つ「フルレイヤー粒度」と「連続選択」という設計上の制約は過度に制限的であると指摘。この課題を克服するため、サブモジュールレベルでの圧縮を可能にする新手法「SubFit (Submodule-level Fitted residual replacement)」を導入した。