arXivは2026年10月9日(現地時間)、ハンシ・ヤン (Hansi Yang) 氏らによる新たな研究論文を公開した。この論文は、大規模言語モデル (LLMs) ベースのエージェントが、外部の教師モデルに依存することなく自己改善を可能にするフレームワーク「クローループ (ClawLoop)」を提案している。従来のLLMエージェントが抱えていた教師モデルへの高い依存性や、持続的な自己改善能力の不足といった主要な課題への解決策を提供するものとして注目される。

クローループは、サンドボックス環境でファイルシステムやシェルと直接対話するLLMベースのエージェントが直面する課題を解決するために開発された。既存のツール利用エージェント向けのポストトレーニングパイプラインは多数存在するものの、harness-basedエージェント向けは限定的で、その多くは一度限りのトレーニングに留まっていた。これらのシステムは、タスク合成と軌跡収集を強力な外部モデルに依存しており、外部モデルの能力や人間の事前知識の範囲にエージェントの自己改善が制限されるという根本的な問題を抱えていた。

クローループは、これらの限界に対処するため、外部の教師モデルを必要とせず、事前依存性を最小限に抑えた自己改善を可能にする。このフレームワークは、以下の三つのフェーズを自己持続的なサイクルとして構成することで機能する。

  1. Task Synthesis: 二つの補完的な構築ルーチンを通じて多様なトレーニングタスクを生成し、診断に基づく難易度成長を適用する。さらに、エージェント不使用とエージェント使用の両方でタスク検証を行う。
  2. Training: 教師ありファインチューニング (SFT) または強化学習 (RL)、あるいはその両方を通じてエージェントを更新する。
  3. Diagnosis and Feedback: エージェントの実行挙動を詳細に分析し、その能力に関するレポートを生成する。このレポートは、次回の反復におけるTask Synthesisへのフィードバックとして利用され、改善サイクルを継続させる。

このループモデルとしてQwen3.6-27Bを用いて評価が行われた結果、SkillsBench、Claw-Eval-Live、ClawGym-Benchの各ベンチマークにおいて一貫した改善が確認された。また、反復的に洗練されたタスクを、より小規模なQwen3.5-4Bおよび9Bモデルに転移した際にも、全てのベンチマークで性能向上を示した。これにより、ループモデルとは独立したデータ品質が検証された形だ。


参考: arXiv cs.AI (アーカイブ) — 2026年10月15日 13:00 (JST)

原文ハイライト

"Self-Improving Agents via Harness-Native Training Loop"

この記事をシェア
X はてブ LinkedIn