arXiv cs.CRは2026年11月17日(現地時間)、Monika Santra氏らの研究チームによる論文を公開した。エージェント型AIシステムのセキュリティリスクをモデル化する手法「ACaM」を提案し、大規模言語モデル (LLM) が呼び出すツールの記述と実装の不一致 (DCI) が招く「能力ロンダリング」という脅威に対処する。43の実在のAIエージェントの評価で、数百件の構造的脆弱性を確認したとしている。
ACaMは、エージェント型システムでLLMが資格情報やプライベートデータ、ファイルシステム、外部サービスへのアクセス権を持つツールを呼び出す際に生じる脅威に対応するために開発された。既存の手法はツールの自然言語記述をその動作の代理として扱うが、記述と実装が一致しない場合がある。このギャップは、ツールの公開インターフェースと実装コードとの間に生じる。これを記述と実装の不一致 (Description-Code Inconsistency: DCI) と呼ぶ。DCIは、ツールの実装に危険な動作が含まれていながら記述からは省略されている「能力ロンダリング (capability laundering)」という脅威クラスを生む。
ACaMはニューロシンボリックな手法を採用し、ツールのコードから能力を導出する。これにより、記述の文言に隠された不正な能力を見つけ出せる点が特徴となる。処理の過程では、静的解析がLLMをコード由来の事実に根拠づけ、静的解析が確立した事実をLLMの出力が上書きすることはない。LLMは、静的解析だけでは表現できない行動の意味を補う役割を担う。
ACaMはエージェントのソースコードをエージェント能力プロパティグラフ (Agent Capability Property Graph: ACPG) へコンパイルし、これを用いて複数のツール呼び出しにわたる脅威の連鎖を再構築する。この手法は43の実在のエージェント(マルチエージェントシステム9件を含む)で評価された。手作業で注釈を付けた24のエージェントでは、能力特性をmacro-F1スコア98.3%で復元し、注入された脅威チェーンを0.980のスコアで再構築した。これは最も強力な比較対象より8ポイント高い結果だったという。変更を加えていない43のエージェントに適用したところ、数百件の構造的脆弱性が見つかり、そのうち10件は概念実証コードによる攻撃実証で確認されたとしている。
参考: arXiv cs.CR (アーカイブ) — 2026年11月19日 14:00 (JST)