huggingface.coが2026年11月4日(現地時間)付けで公開した論文において、物理AIにおける継続学習の新たな手法「DRAP (Dynamics-Risk Adaptive Plasticity)」を発表した。この手法は、ロボティクス分野における大規模VLAポリシーの逐次適応において、古いデータを保存せずに安定性と可塑性のバランスを取る。従来の継続学習では小さなポリシーエラーが軌道上で蓄積され、タスク失敗に至る問題を解決する。

DRAPは、リプレイフリーの手法として、サンプルレベルの行動勾配を局所的な軌道増幅リスクで重み付けすることで、適応可能なモデルテンソルの過去の重要度を推定する。これにより、ダイナミクス的に敏感な軌道点における以前の行動を支えたコンポーネントの可塑性を即座に低減する。

具体的には、エキスパートの状態-行動遷移にリッジ正則化された局所線形モデルを適合させ、その状態遷移行列の最大特異値を用いて、ポリシーに依存しない摂動増幅の1ステップ推定を提供する。各タスク後、リスクで重み付けされた勾配二乗がテンソルレベルの重要度メモリに蓄積される。後続タスクでは、DRAPが正規化された累積重要度を利用して各テンソルのAdamW学習率を調整する。

このDRAPをOpenVLAの固定されたKappaTuneで選択されたサブネットワークに適用し、LIBERO Spatial、Object、Goalスイート全体でリプレイフリーの逐次適応を評価した。その結果、標準的なAdamWファインチューニングやEWCと比較して、以前に学習した行動の保持が大幅に改善され、新たなスイートの獲得能力も維持することが示されている。


参考: huggingface.co — 2026年11月5日 12:57 (JST)

原文ハイライト

"substantially improved retention of previously learned behaviors while preserving strong new-suite acquisition."

この記事をシェア
X はてブ LinkedIn