arXiv cs.CRは2026年11月16日(現地時間)、大規模言語モデル (LLM) アプリケーションのセキュリティに関する研究論文を発表した。この研究は、LLMが外部ツールを選択・実行するエージェントとして機能する際に生じる「ツールプロバイダ誤結合」問題に焦点を当てている。Model Context Protocol (MCP) を利用するAIエージェントにおいて、ツールメタデータが検証済みプロバイダの身元に必ずしも紐付いていない現状を指摘。正当なプロバイダへのリクエストが攻撃者によって制御されるツールへ解決される失敗を定義し、そのメカニズムを分析した。

大規模言語モデル (LLM) アプリケーションは、外部ツールを選択し呼び出すエージェントとしての役割を増している。Model Context Protocol (MCP) は、クライアントが複数のサーバーによって提供されるツールを構成できるようにすることで、この相互作用を標準化している。

しかし、発見と選択に使用されるツールメタデータは、それ自体が検証済みのプロバイダの身元に必ずしも紐付いていない。論文は、このギャップを「ツールプロバイダ誤結合」として研究した。これは、正当なプロバイダ宛のリクエストが、攻撃者によって制御されるツールに解決されてしまう失敗を指す。攻撃者はホスト、LLM、正当なサーバー、またはネットワークチャネルを侵害せず、選択されたメタデータを持つツールを宣伝する別のMCPサーバーを運用する。

研究は、ツールプロバイダ誤結合を攻撃者制御のツール選択最適化問題として定式化し、5つのLLMベースのクライアントを使用して、制御されたMCP環境で評価した。結果は、インタラクションが誤結合を引き起こすことを示した。最も深刻な失敗は、正確な名前衝突、タスクに整合した説明、および互換性のあるスキーマが互いに強化し合う場合に発生した。また、権威を高めた説明と互換性のあるスキーマだけでも、名前衝突なしに誤ったプロバイダ実行や、未解決のプロバイダ曖昧さを引き起こす可能性があることが確認された。

異なるモデルは、攻撃者制御のプロバイダ選択、明確化要求、および不安定または一貫性のないプロバイダ解決など、同じプロバイダ結合の弱点を異なる方法で露呈した。本研究の著者には、ゼイナブ・アンビアエ (Zeynab Anbiaee) 氏、サッジャード・ダッドカ (Sajjad Dadkhah) 氏、アリ・A・ゴルバニ (Ali A. Ghorbani) 氏らが名を連ねる。


参考: arXiv cs.CR — 2026年11月17日 03:49 (JST)

原文ハイライト

"request intended for a legitimate provider is instead resolved to an attacker-controlled tool."

この記事をシェア
X はてブ LinkedIn