Yeonsung Jung氏らは2026年10月9日(現地時間)、オンライン科学論文投稿サイトarXiv cs.AIを通じ、自律的に進化するレッドチーミングフレームワーク「X-AgentRed」を発表した。このフレームワークは、複数のサービスエコシステムで機能するパーソナルエージェントが、一見無害なユーザー要求を実行する過程で、意図しないか有害な結果を招く可能性のあるツール呼び出しパスを特定することを目的としている。このようなエージェントの複合的な振る舞いが引き起こす潜在的なリスクを事前に発見するための、新たな手法として注目される。
パーソナルエージェントは、現代のデジタル環境においてウェブや様々なアプリケーション横断的に、ツールを用いてサービスと連携する機会が飛躍的に増加している。これらエージェントの行動が複数のサービス間で蓄積され、相互に作用することで、一見無害なユーザー要求に応じている場合でさえ、予期せぬ、または有害な結果が生じることが懸念されている。このような複合的な障害を事前に特定し、対処するためには、多岐にわたるクロスサービスパスを体系的に探索することが不可欠となる。
既存のレッドチーミング手法の多くは、タスクおよび環境の説明から潜在的に有害なパスを特定するために大規模言語モデル（LLM）にプロンプトを与える方式、あるいは人間またはLLMによって指定された有害な目的を、一見無害な行動の組み合わせに分解する方式が一般的だった。しかし、これらの生成は、LLMがトレーニング中に学習した既存のパターンに偏る傾向があり、既知のツール組み合わせを優先するため、新規のクロスサービスインタラクションが十分に探索されない可能性が指摘されてきた。
この課題に対応するため、Yeonsung Jung氏らが提案した「X-AgentRed」は、ツールの依存関係グラフを構築することで有害なツール呼び出しパスを発見し、その実行フィードバックを利用してパスを拡張および改良するという。具体的には、レッドチーミングエージェントが各ツールの効果、潜在的な危害、および実行の前提条件を分析する。これにより、あるツールの効果が別のツールの実行前提条件を満たし得る方法を捉える有向グラフが構築される。
このグラフからサンプリングされた「レシピ」は、エージェントが有害な結果を生成し得る現実的なシナリオとして具現化される。そして、実行フィードバックは自己改善を可能にする重要な要素となる。ツール置換を通じて害を生成するパスを多様化したり、失敗したパスでブロックされたステップの前提条件を精緻化したりすることで、フレームワーク自体が学習し、より効果的なレッドチーミングプロセスを実現する。
X-AgentRedは、4つの先進的なエージェントモデルを対象に評価された結果、既存手法である「STAC」と比較して1.77倍の有害パス率を達成したという。さらに、平均で2.99倍のツールカバレッジを達成し、より多様なツールセットを網羅的に探索していることが示された。この結果は、複雑化するエージェントエコシステムにおける未知の脆弱性を発見する上でのX-AgentRedの有効性を示唆している。
参考: arXiv cs.AI — 2026年10月10日 02:34 (JST)
原文ハイライト"X-AgentRed: Red-Teaming Personal Agents in Evolving Multi-Service Ecosystems"