Zeyan Liらは9月25日(現地時間)、大規模言語モデル（LLM）の微調整に用いられる低ランクアダプター（LoRA）の結合における課題を解決する新手法「READ (Read-only Expansion of Adapter Deltas)」を発表した。同手法は、複数のLoRAアダプターを単一のモデルに統合する際の問題に対処し、アダプターの更新をバランスの取れた正規形に書き換える。新しいスキルが既存のスキルの入力部分を参照し、その出力には干渉しない一方向の結合を確立することで、性能低下を防ぎつつ効率的な統合を実現する。
低ランクアダプター（LoRA）は、大規模言語モデル（LLM）の微調整を効率的に行い、各タスクに必要な計算資源とコストを削減する手法として注目されている。しかし、個別に訓練された複数のLoRAアダプターを一つのモデルに統合する際には、いくつかの困難が指摘されている。
具体的には、重み空間でアダプターの更新を直接マージすると、異なるタスク間で干渉が生じ、性能が低下する可能性が挙げられる。また、全てのタスクデータを網羅してモデルを再訓練することは、計算コストが膨大になるため現実的ではない。さらに、別々に訓練されたアダプター間でルーティングを行うアプローチは、単一の統合されたモデルという目標とは矛盾するとされる。
Liらが発表した研究では、これらの統合の課題が、これまでの合成手法が暗黙的に行っていた二つの選択に起因すると分析している。一つは、LoRAの更新が無数の等価な因子分解を許容し、その選択がアダプター間の学習された相互作用に影響を与える点。もう一つは、既存のスキルと新しいスキルの結合の方向性が、古いスキルがこれまで計算していた機能を継続するかどうかに影響を与えるという点である。
新手法READ (Read-only Expansion of Adapter Deltas)は、これらの問題に対処するために設計された。READでは、各アダプターの更新が、その情報を正確に保持するバランスの取れた正規形に変換される。結合プロセスにおいては、一方向のみにスキルが成長し、新しいスキルは既存のスキルの入力部分を「読み取る」ことができるが、その出力部分には「書き込む」ことはない。
このアプローチの利点として、各追加ステップで訓練を必要とするのは、結合行列の新しいスキルの行のみである点が挙げられる。また、合成された更新はベースモデルの重みに直接組み込まれるため、推論コストの増加、複雑なルーティングメカニズム、あるいはタスク固有のルールを必要としない。
研究チームは、READの有効性を四つのベンチマークスイートと二つのモデルファミリーにわたって評価した。スキルを段階的に追加する実験を行った結果、READは複数のファミリーにおいて、同じアダプターから構築された公開ベースラインと比較して、SuperGLUEで20ポイント以上、ドメインスイートで7ポイント以上、全てのスイートの平均スコアを向上させたと報告されている。ほぼ全ての完全な追加シーケンスで、他の直接的なベースラインを上回る結果を示したという。
参考: arXiv cs.LG (アーカイブ) — 2026年9月26日 02:54 (JST)