Deep Shah氏らは2026年11月18日(現地時間)、大規模言語モデル (LLM) エージェントのセキュリティと監査に関する研究論文を学術リポジトリarXiv cs.CRで公開した。同論文は、長期間動作するLLMエージェントが状態を転送する過程で発生する脆弱性に焦点を当て、既存の実行トレースでは捕捉できない問題を解決する新たな監査アーキテクチャ「state-transfer audit architecture」を提案している。

長期間にわたりコードベース、ウェブブラウザ、企業インフラ全体で機能する大規模言語モデル (LLM) エージェントは、作業コンテキスト、セッション履歴、永続メモリ、および外部環境間で状態を移動させるexecution harness(実行ハーネス)に依存する。しかし、この状態転送の際に、チェックされていないコンテンツの受け入れ(間接的なプロンプトインジェクション、未検証のメモリ書き込み)、情報損失を伴う状態の書き換え(ユーザー制約を削除するコンテキスト圧縮、ソース権限を剥奪するメモリ統合)、または不完全な状態復元(中断されたキーバリュー状態が推論サーバーに残るワークスペースのロールバック)といった、重大なセキュリティおよび信頼性上の障害が発生する可能性があると論文は指摘している。

従来の実行トレースはモデルのプロンプトとツール呼び出しを記録するが、これらの境界を越える情報は省略されるため、多段階の処理における障害の原因特定やランタイム監視が困難であったとShah氏らは述べている。

研究者らは、エージェントハーネス向けのstate-transfer audit architectureを提案。各転送境界において、ハーネスが最小限のハッシュチェーン化された記録を発行する監査ポイントを定義する。これにより、低オーバーヘッドの決定論的チェックをモデルベースのセマンティックチェックから分離し、内部コンテキスト、メモリ、推論サーバーのキャッシュ状態を外部アクションと紐付けることが可能となる。

この研究では、因果関係に基づく障害特定に必要な転送記録が、最小権限機能、プロンプト外でのリプレイ耐性のある認証、情報フロー制御、義務監視、マルチエージェントおよびインフラパイプライン間のトランザクションリカバリを含むランタイムセキュリティ制御に必要な耐久性のある状態を提供することを示した。また、マルチモーダルGUIへの適応性を分析し、240の多段階障害注入シナリオを用いた参照ハーネスミドルウェアを実装・評価した。その結果、転送記録が根本原因を特定し、ライフサイクルログやツールのみのログでは見落とされた交差転送違反を微秒レベルの決定論的オーバーヘッドで捕捉できることが確認された。


参考: arXiv cs.CR (アーカイブ) — 2026年11月19日 14:00 (JST)

原文ハイライト

"critical security and reliability failures occur during state transfers"

この記事をシェア
X はてブ LinkedIn