arXivが2026年11月19日(現地時間)に公開した論文「Attacks and Defenses in Decentralized Multi-Agent Systems with Hop-by-Hop Task Decomposition and Delegation」は、分散型マルチエージェントLLM(大規模言語モデル)システムにおけるセキュリティ課題を提示した。Matthew D. Laws、Maria Lazou、Alina Oprea、Cristina Nita-Rotaruの4氏が著者として名を連ねる同論文は、集中管理を伴わない自律的なエージェント連携が、悪意あるエージェントによるタスク失敗、リソース消費増大、情報漏洩を引き起こす可能性を実証。その緩和策として暗号プロトコルとオーディターの導入を提案している。

分散型マルチエージェントLLMシステムは、独立して管理されるエージェントが、集中調整なしに複雑なタスクで協調することを可能にする。各エージェントは独自のオペレーター、モデル、メモリ、設定を持ち、タスクを自律的に分解し、サブタスクを実行し、残りの作業をピアに委譲することで、スケーラビリティを実現し、単一障害点を排除する。

しかし、このような分散化は、セキュリティ上の重大な課題をもたらす。タスク実行に対する完全な可視性を持つ単一エンティティが存在せず、エージェント間の正しい行動を強制する権限もないためである。研究者らは、インテグリティ、可用性 (availability)、機密性 (confidentiality) に対する攻撃を設計し評価した。その結果、単一の悪意あるエージェントが、タスクを最大100%失敗させ、トークン消費量を最大7.7倍、実行時間を最大3.2倍増加させる可能性を実証した。さらに、良性エージェントから関連する過去のタスクの最大94%を情報漏洩させられることも明らかになった。

これらの脅威に対処するため、研究者らは暗号プロトコルを提示した。このプロトコルは、システム内で実行された全てのアクションの反論の余地のない検証済み実行トレースを生成する。また、これらのトレースを分析して悪意ある行動を検出し帰属させるオーディターを開発した。HiddenBenchを用いてgpt-6.1-solおよびQwen3.8-27B-FP8で実施された評価では、プロトコルが無視できる程度のレイテンシオーバーヘッドで機能し、オーディターがプロトコルに準拠する攻撃を含め、98%の攻撃を検出し正しく帰属させることが示された。


参考: arXiv cs.CR (アーカイブ) — 2026年11月20日 14:00 (JST)

原文ハイライト

"a cryptographic protocol that produces an irrefutable verified execution trace"

この記事をシェア
X はてブ LinkedIn