arXiv cs.CLは2026年9月9日(現地時間)、論文「Local Edits, Global Ripples: Replay-Informed Policy Adaptation for Workflow Synthesis」を公開し、ワークフロー合成を行うエージェント向けの新しい手法「RIPPLE (Replay-Informed Persistent Policy Localization and Editing)」を導入した。この研究は、基盤モデルの更新を伴わないプロンプトポリシー編集によりエージェントの性能向上を目指し、特に局所的な編集が広範囲に影響を及ぼす課題や、編集間の相互干渉といった問題への対処に焦点を当てている。

ワークフロー合成エージェントの性能向上において、基盤モデル(foundation model)の更新を伴わないプロンプトポリシー編集は、実用的なアプローチとして注目されている。しかし、この永続的なプロンプト編集には、大きく分けて二つの関連する特性が課題として存在している。

一つ目は、編集の局所性が効果の局所性を意味しない点である。特定のポリシーセグメントに限定された編集であっても、下流の実行に波及し、元の編集範囲を超えてエージェントの動作を変化させる可能性がある。二つ目は、編集効果が構成に依存するという特性だ。単独では有益に機能する編集が、他の編集と合成されると干渉を起こし、その利点が失われたり、意図しない有害な結果を招いたりすることがある。

これらの課題に対処するため、研究者らは「RIPPLE (リップル)」を開発した。RIPPLEは、ポリシーの変更箇所を特定するプロセスと、その編集が合成後に安全に永続化されるかを決定するプロセスを分離することで、これらの問題を解決しようと試みる。具体的には、まず失敗した実行パス(trajectories)を診断し、実行可能な各失敗を事前定義されたポリシーセグメントにマッピングし、そのポリシー部分に修正を限定する。

続いて、RIPPLEは候補となる編集が単独でどの程度の利益をもたらすかを、同じイテレーション開始ポリシーと比較して評価する。その上で、以前に受け入れられた更新が適用されたポリシーにおいて、有望な編集をリプレイ(replay)し、下流に与える影響や他の編集との相互作用を明らかにする。最終的に、合成後も安全性が維持されることが確認された編集のみが保持される仕組みだ。

RIPPLEは、実行可能なワークフロー合成のために新たに合成されたホールドアウトベンチマーク「Flow-HO」で評価された。その結果、RIPPLEは検証成功率を最大23.1%向上させることを実証した。さらに、二つの凍結された言語モデルバックボーンにおいても、編集効率と低実行コストを維持しつつ、プラスの成果をもたらすことが確認された。ターゲットを絞った相互作用分析により、セグメント局所的なツール使用編集が下流のリソース解決と検証を変化させること、および単独では有益な編集が合成後に有害となる可能性のあることが示されている。


参考: arXiv cs.CL — 2026年9月14日 13:00 (JST)

原文ハイライト

"Replay-Informed Persistent Policy Localization and Editing"

この記事をシェア
X はてブ LinkedIn