arXiv cs.ROは10月27日(現地時間)、ビジョン・言語・アクション(Vision-Language-Action、VLA)モデルのロボット操作における汎化能力を強化する新たな学習フレームワーク「ThinkWorld」に関する論文を公開した。同フレームワークは、アクション推論を世界のダイナミクスに基礎付け、「世界の想像力(world imagination)」を用いた強化学習で能力を高める。ThinkWorldは、現在から未来の状態への中間的なダイナミクスを「Chain-of-Dynamics(CoD)」として表現し、異なるロボット間で共通のアクション表現を可能にする。
従来のビジョン・言語・アクション(VLA)モデルは、アクションラベル付きロボットデモンストレーションの多様性とカバー範囲により、汎化能力が制約される課題を抱えていました。学習可能な行動範囲がデータセットの質と量に依存するため、未見のシナリオやタスクへの対応が困難な側面があったのが実情です。
一方、人間の動画は、ロボットデモンストレーションと比較して、はるかに広範な行動および環境経験を提供できる可能性を秘めています。しかし、人間の動画からロボットの行動学習にスケーラブルなデータを抽出し、明示的なアクショングラウンディングを確立することの間には、これまで根本的なトレードオフが存在していました。この制約が、人間が持つ豊富な経験をロボットが効率的に学習し、適用する上での障壁となっていました。
「ThinkWorld」は、この根本的な課題に対し、アクションラベルのない動画からも直接的な教師を得ることを可能にするアプローチを提示します。その具体的な学習メカニズムは多段階で構成されています。まず、アクションラベル付きデモンストレーションデータを用いて、離散的な動作トークンのシーケンスであるChain-of-Dynamics(CoD)を初期化します。CoDは、特定の状態から未来の状態へと至る中間的なダイナミクスを表現するものです。
CoDの初期化後、「ThinkWorld」は各CoDによって誘発されるであろう未来の状態を予測するステップに進みます。この予測された未来の状態を、実際に観測された結果と比較し、その予測が観察された結果とより高い精度で一致するCoDを、強化学習によって優先的に強化します。この反復的なプロセスを通じて、システムの予測能力と行動推論能力が段階的に洗練されていく仕組みとなっています。
この手法により、人間の経験とロボットの経験が同じ推論空間において統合され、相互にその能力を向上させることが可能となります。論文では、シミュレーション環境と実ロボットの両方を用いた実験が実施され、その有効性が検証されました。実験結果として、「ThinkWorld」は人間からロボットへの効果的な転移学習能力と、未見のタスクおよび環境に対する強力な汎化能力を示しています。
参考: arXiv cs.RO (アーカイブ) — 2026年10月28日 02:59 (JST)