arXiv cs.CRは2026年9月3日(現地時間)付けで、大規模言語モデル (LLM) ベースのマルチエージェントシステム (MAS) におけるプライバシー保護型の安全性確保に関する研究論文を発表した。同研究では、組織をまたいだプライベートなデータ共有が困難な状況に対応するため、グラフフェデレーテッドラーニングに基づく「FGLGuard」を提案している。この手法は、各オペレーターが自身のデータでモデルを学習し、モデル更新のみを共有することで、データプールなしに安全性を向上させる。
この研究論文は、従来のトポロジー誘導型安全対策が、すべてのラベル付きデータを一元的にプールできる単一オペレーターを前提としている点を指摘している。しかし、現実の組織横断的な運用では、プライベートなプロンプトやワークフローを含むため、データの一元化は困難である。FGLGuardは、各オペレーターが自身の判別者ラベル付きエピソードグラフに対してエッジ特徴グラフアテンション検出器を適合させ、モデルの更新のみを共有する仕組みを採用する。
FGLGuardは、非IID (独立同分布ではない) クライアント向けの近傍局所目的、ドメインバランス型集約、過剰拒否制約付きしきい値校正、裏付けされた上流スコアリング、ブロックされた回答に対する保護された書き換えといった複数の手法を組み合わせている。実験では、オフザシェルフ転送が分布シフトの下で機能しないことが示され、フェデレーション（連携学習）が不可欠であると結論付けられた。例えば、AUROC（受信者動作特性曲線下面積）はドメイン内再訓練後のみ0.51から0.70に改善する。
FGLGuardはAgent-SafetyBench、R-Judge、AgentDojoといった複数のベンチマークにおいて、データプールなしでドメイン内集中型システムの性能を上回る結果を示した。教師なし異常検知やローカルのみの学習では成果が得られなかった。さらに、4つの異なるドメインのオペレーター間で連携したFGLGuardは、マルチドメイン集中型システムと比較してAUROCで0.03ポイント差に迫る性能を発揮した。一方、単一ドメインの安全対策では、他のドメインで性能が著しく低下することが確認された。ライブFGLGuardはAgentDojoにおいて、攻撃成功率を43%削減し、ほぼ無防備なユーティリティ、APIコストゼロ、無視できる能力損失を実現したと報告されている。
参考: arXiv cs.CR — 2026年9月4日 13:00 (JST)
原文ハイライト"Federation is not optional: off-the-shelf transfer collapses under distribution shift"