Yiheng LiとJingyue Liは2026年10月22日(現地時間)、大規模言語モデル（LLM）の推論能力を利用してマルチモーダルなプロンプトインジェクション（PI）攻撃を検知する新たなフレームワーク「MPIDetector」を発表した。この研究論文は、多様な入力を通じた悪意のある指示の隠蔽に対し、既存のパターンマッチング手法では不十分であると指摘。MPIDetectorは、ファインチューニングを不要とし、少数のインコンテキスト学習（ICL）を通じてモデルのセマンティックな意図分析を強化する。
マルチモーダル大規模言語モデル（MLLM）が現実世界のアプリケーションに急速に統合されるにつれて、プロンプトインジェクション（PI）は重大なセキュリティ脅威として浮上している。攻撃者は、テキストや視覚入力に悪意のある指示を隠し、安全対策の回避を図る。署名ベースやパープレキシティベースなど、既存の検知手法はパターンマッチングに大きく依存しており、高度なクロスモーダルなPIペイロードの検知には不十分である。
今回発表されたMPIDetectorは、LLMの持つ固有の推論能力を、少数のインコンテキスト学習（ICL）を介して活用する。モデルに特定のプロンプトテンプレートと代表的な攻撃例を提供することで、モダリティを超えた入力のセマンティックな意図を精査できるよう設計されている。
このフレームワークの評価には、8つのテキストと7つの視覚的な悪意あるカテゴリを含む包括的なベンチマークが構築され、誤検知を厳密にテストするため良性のデータセットも追加された。Gemini-2.0-Flash、Qwen3-VL-32B-Instruct、Doubao-seed-1.6-flashを含む複数の主要なLLMに対する評価により、このアプローチの有効性と汎用性が実証されている。
MPIDetectorは、テキストタスクにおいて最大90.91%の精度と100%のリコール率を達成した。視覚ドメインでは、評価された全モデルで100%の精度を維持しつつ、最大99.28%の精度を示した。また、500件の高度に難読化されたWebInject（環境ウェブエージェントインジェクション）に対して評価した際には、最大99.80%の検知率を記録した。2つのテキストPIペイロード検知ベースライン手法と2つの視覚入力検知手法との比較においても、MPIDetectorの優れた精度が示されている。これらの結果は、LLM駆動の推論が高度なプロンプトインジェクションに対する堅牢なクロスモーダル防御を提供する可能性を示唆している。
参考: arXiv cs.CR (アーカイブ) — 2026年10月23日 13:00 (JST)
原文ハイライト"MPIDetector: Detecting Multi-modal Prompt Injection via LLM-based Reasoning"