arXiv cs.CR は2026年10月27日(現地時間)、複数ターンのLLM jailbreak を検出する新たなフレームワーク「SpecGuard」に関する論文を発表した。このフレームワークはトレーニング不要で仕様駆動型であり、既存のガードモデルが個別のメッセージややり取りを分類するにとどまるのに対し、対話の安全性を複数ターンにわたるトレースプロパティとして評価する。
SpecGuardは、ユーザーの意図とアシスタントの行動を複数ターンにわたって考慮し、違反が特定可能になる対話の安全性をトレースプロパティに変換する。既存のガードモデルは主に個別のメッセージややり取りを分類し、リスクスコアやラベルを返すのみで、実行可能な安全性の意味論や形式的に検証可能な決定の証跡を欠いていた。
SpecGuardは、固定の原子命題契約 (atomic-proposition contract) を用いて自然言語の観測を因果的にスコープされた証拠に基づいた事実 (causally scoped, evidence-backed facts) にマッピングする。また、禁止される対話パターンを線形時相論理 (Linear Temporal Logic) 仕様として表現する。これらの各仕様は、結果として生じる対話のトレースを段階的に消費するシンボリック有限オートマトン (symbolic finite automaton) にコンパイルされる。
この監視メカニズムは、バッファリングされたランタイムチェックと回顧的監査 (retrospective auditing) をサポートする。受け入れられた実行は、トリガーされた仕様、裏付けとなる事実、および関連する対話ターンを特定する再プレイ可能な証拠 (replayable witnesses) を生成する。マルチターン安全性ベンチマークでの実験では、SpecGuardが代表的なオープンソースガードモデルを一貫して上回り、誤検出率 (false-positive rates) を制御しつつ動作することを示した。著者にはJunle Li、Siqi Chen、Jiakai Li、Bingzhuo Zhongが名を連ねている。
参考: arXiv cs.CR (アーカイブ) — 2026年10月28日 13:00 (JST)
原文ハイライト"SpecGuard, a training-free, specification-driven framework for monitoring multi-turn LLM interactions."