エージェント型AIの脆弱性、新手法ACaMが能力ロンダリングを自動検出
arXiv cs.CRは2026年11月17日(現地時間)、Monika Santra氏らの研究チームによる論文を公開した。エージェント型AIシステムのセキュリティリスクをモデル化する手法「ACaM」を提案し、大規模言語モデル (LLM) が呼び出すツールの記述と実装の不一致 (DCI) が招く「能力ロンダリング」という脅威に対処する。43の実在のAIエージェントの評価で、数百件の構造的脆弱性を確認したとしている。
Tag
1 件の関連記事