Yangyi Huang氏らは5月27日(現地時間)、大規模言語モデル（LLM）のParameter-efficient finetuning (PEFT)に関する新たな評価手法「PEFT-Arena」を発表した。この研究は、PEFTの評価が、ダウンストリームタスクの精度だけでなく、事前学習済み能力の保持も考慮すべきという問題提起に基づいている。「PEFT-Arena」は、ターゲットタスクへの適応能力（可塑性）と忘却への耐性（安定性）という「安定性-可塑性ジレンマ」の観点からPEFTを評価する。複数のPEFT手法を比較した結果、同等のパラメータ予算において、直交ファインチューニングが最も有利な「パレートフロンティア」を達成したという。
研究チームは、Parameter-efficient finetuning (PEFT) 手法間の性能差をより深く理解するため、PEFTの更新がどのように機能するかを二つの幾何学的視点から詳細に分析した。
一つ目は、重み空間におけるスペクトル分析である。この分析を通じて、PEFTにおけるパラメータ化が、大規模言語モデルが持つ事前学習済み特異値構造とどのように相互作用し、その特性を変化させるかが解明された。この視点により、特定の手法がモデルの既存知識をいかに効率的に活用し、あるいは改変しているかを数値的に捉えることが可能となる。
二つ目は、活性化空間における保持メトリクスを用いた分析である。これは、ファインチューニングの過程が、モデルの汎用的な能力表現を保持するのか、それとも歪めてしまうのかを示す指標を提供する。研究では、特にモデルの忘却現象が、表現空間における非等長的な歪み、すなわち情報の構造が不均等に変形することに関連していることを指摘した。この発見は、ファインチューニングが望ましい能力を付与する一方で、意図しない形で既存の重要な能力を損なうメカニズムの一端を明らかにしている。
さらに、分析の結果、従来のSupervised FineTuning (SFT) によって得られる最終的なチェックポイントが、ターゲットタスクにおけるより良い能力保持の操作点、すなわち、事前学習能力の保持とターゲットタスク性能のバランスが取れた理想的な状態を、しばしば「オーバーシュート」する傾向があることが明らかになった。これは、SFTがターゲットタスクに過度に最適化され、その結果として汎用能力の忘却を招く可能性があることを示唆している。
この問題に対処するため、研究では経路巻き戻し (path-wise rewinding)と呼ばれる事後改善手法に関するケーススタディを提示している。経路巻き戻しは、ファインチューニングの訓練過程を遡り、過学習や忘却が始まる前の最適な時点を見つけることで、最終的なモデルの性能を向上させることを目指す。このアプローチは、ファインチューニングの終点だけでなく、その学習経路全体を考慮することで、安定性と可塑性のより良いバランス点を見出し、モデルの汎用性と特定タスク性能の両立を図る新たな方向性を示唆している。
参考: arXiv cs.LG — 2026年5月28日 02:59 (JST)
原文ハイライト"stability-plasticity dilemma"