#Leverage

言語モデルの重み更新効果を定量化する「レバレッジ」指標が発表

arXiv cs.LGは2026年10月29日(現地時間)付けで、言語モデルの学習における重み更新の効果を定量化する新しい指標「レバレッジ (leverage)」を導入した論文を公開した。同論文は、事前学習 (pretraining) から後学習 (post-training) に至る各学習段階での重み更新がモデルの振る舞いに与える影響を詳細に分析し、学習精度がレバレッジに与える影響についても言及した。