arXiv cs.CRは11月3日(現地時間)、Penghui Li氏らの論文を公開し、Office文書が大規模言語モデル（LLM）によって処理される際、モデルが人間とは異なる内容を認識する可能性があると指摘した。これは、文書のOffice Open XML（OOXML）ファイルからテキストを生成するエクストラクターの実装の違いが、LLMへの情報の乖離を生むことに起因する。この「抽出の相違（extraction divergence）」が、LLMアプリケーションの新たな攻撃対象となる可能性を示した。
Penghui Li氏らの研究では、LLMアプリケーションが依存する広く使用されているエクストラクターを、静的ソースコード解析と動的解析を組み合わせて分析した。その結果、エクストラクターが人間には見えない19のOOXMLチャネルからコンテンツを読み込み、人間には見える12のチャネルからコンテンツを削除していることが特定された。さらに、広く使用されているエクストラクターが表示の書式設定や読み込み順序を無視するため、視認できるコンテンツでさえLLMには異なる形式で到達する事実も判明した。
これらの知見に基づき、指示を注入することなく、モデルが文書を人間とは異なる方法で解釈するように誘導する5つの攻撃が構築された。これらの攻撃は、ChatGPT、Claude、Gemini、Microsoft 365 Copilotの4つの主要チャットアシスタントと、Codex、Claude Code、Antigravity、GitHub Copilot CLIの4つのコーディングエージェントに対してテストされた。結果として、テスト対象となったすべてのモデルが少なくとも1つの攻撃によって誤解されたことが報告されている。
論文では、テキストをモデルに渡す前にOOXML仕様から人間の視点を再構築する軽量な防御策「Prism」も提案している。Prismは、未知の攻撃ペイロードに対しても一般化可能であると報告されており、LLMアプリケーションにおける文書処理の信頼性向上に寄与する可能性が示唆されている。
参考: arXiv cs.CR — 2026年11月5日 14:00 (JST)
原文ハイライト"When File Ingestion Misleads Language Models: Measuring and Mitigating Divergences in Office Documents"