ルイ・シ氏らが10月19日(現地時間)、エージェントの行動として動的な重み切り替えを行う新たな手法「WeAct(Weight-level Internal Actions)」を開発したと発表した。この手法は、固定されたバックボーン上で機能特化型のLoRAアダプターを独立して訓練し、アダプターの選択をエージェントのアクションスペースに統合する。これにより、従来の共有パラメータ更新で生じることがあった既存機能の劣化(catastrophic forgetting)といった課題への対処が図られ、長期的なエージェントの多様な機能学習を可能にするとされる。

WeActは、モデルのネイティブなツール呼び出しインターフェースを活用し、共有コンテキスト内でオンデマンドの機能構成を実現する。従来の共同訓練や静的アダプター統合手法が実行を通じて固定されたパラメータ設定を維持してきたのに対し、WeActはエージェントが複数の軌跡から多様な機能(heterogeneous capabilities)を学習する必要がある状況において、異なる段階で異なる機能が求められる複雑な要求に対応すると説明されている。

WeActの有効性を検証するため、8つの主要なディープリサーチベンチマークを用いた評価が実施された。Qwen3-32BモデルにWeActを適用した結果、その平均精度はフルファインチューニングと比較して6.2%の向上が確認された。この性能向上は、より少ない計算コストで達成された点が注目される。さらに、現時点で最も強力な静的LoRA統合手法と比較した場合、WeActは平均精度において相対的に27.5%の改善を示しており、動的なアダプター切り替えが有効である可能性が示唆された。

WeActは、モジュラーな継続的適応をサポートする点でも特徴がある。例えば、エージェントの計算能力を拡張するために新しいコード計算アダプターを追加したり、レポート品質を向上させる目的で既存のライティングアダプターを更新したりすることが容易になるとされる。これらの機能拡張や更新は、ベースとなるバックボーンモデルや他のアダプターに影響を与えることなく独立して実施できるため、エージェントシステムの柔軟性と拡張性に寄与する。このモジュラーな設計は、長期にわたるエージェントの進化と適応を効率的に促進する基盤となると述べられている。


参考: arXiv cs.LG (アーカイブ) — 2026年10月20日 02:59 (JST)

この記事をシェア
X はてブ LinkedIn