論文公開プラットフォームのarXivは2026年10月21日(現地時間)付けで、強化学習を用いてマルチエージェントシステム（MAS）の脆弱性を特定する新しいレッドチーミングフレームワーク「ReMAS」に関する論文を発表した。この研究は、大規模言語モデル（LLM）エージェントが利用される多エージェント環境における、既存のブラックボックス型攻撃手法の有効性不足を指摘。ReMASは、特にサブエージェントがユーザーと直接対話しないシステムにおいて、より効果的な敵対的プロンプトを生成し、システムプロンプトの抽出成功率を大幅に向上させる。
Yuqi Jia氏ら研究チームは、既存のブラックボックス型レッドチーミング攻撃が単一エージェントに焦点を当てており、複数のサブエージェントで構成されるマルチエージェントシステム（MAS）には効果が低いという課題を提示した。そこで、同チームはMASに特化した初の強化学習ベースのレッドチーミングフレームワークであるReMASを開発した。
ReMASは、攻撃者側のLLMをファインチューニングし、システムプロンプト抽出を目的とした効果的な敵対的プロンプトを生成する。このフレームワークは二段階のプロセスを採用している。まず「リライトステージ」でベースとなる攻撃プロンプトを洗練し、抽出成功率を高める。次に「テンプレート生成ステージ」で、特定のサブエージェントの呼び出しを促し、そのシステムプロンプトを明らかにする攻撃テンプレートを構築する。
広範な実験の結果、ReMASは既存のブラックボックス型攻撃と比較して攻撃成功率を大幅に向上させることが確認された。この手法は、異なるバックエンドLLMやMAS構造に対して転移可能性も示した。これらの結果は、マルチエージェントシステムの脆弱性と、適応的なブラックボックス型攻撃者に対するより強固な防御開発の重要性を示すものとされている。
参考: arXiv cs.CR — 2026年10月22日 13:00 (JST)
原文ハイライト"substantially improves attack success rates compared to existing black-box attacks"