Appleは2026年7月(現地時間)、自律交渉エージェントにおける行動プライバシー漏洩を形式化し、推論攻撃を緩和する研究論文を発表した。この研究は、保険や調達などの高リスク環境で利用されるエージェントが直面する、交渉動態から私的制約が推論される脅威に対応。差分プライバシー、合意達成、高交渉ユーティリティを同時に保証する適応型確率的交渉ポリシーを設計した内容だ。
Appleが発表した研究論文Behavioral Privacy Leakage in Agentic Negotiation: Formalizing and Mitigating Inference Attacks via Randomized Policiesは、国際会議ARES 2026（International Conference on Availability, Reliability and Security）内のワークショップAI4TCI（Workshop on AI for Secure and Trustworthy Critical Infrastructure Systems）で採択された。
本研究は、多段階交渉プロトコルにおける行動差分プライバシー（behavioral differential privacy）に焦点を当てている。自律交渉エージェントが保険や調達のような高リスク環境で導入される中、暗号技術では保護できない新たな脅威として行動プライバシー漏洩が浮上した。これは、敵対者が譲歩の軌跡、タイミング、収束パターンといった観測可能な交渉動態から私的制約を推測する現象である。
Appleの研究者らは、(ε,δ)-差分プライバシー、オファーシーケンスのほぼ確実な収束（相手の留保価格が許容する場合の合意達成）、および高い交渉ユーティリティを共同で保証する適応型確率的交渉ポリシーを開発した。
このメカニズムは3,000回の合成二者間交渉で評価された。その結果、敵対的推論の精度を43%から50%削減しながら、交渉成功率とユーティリティを90%以上に維持した。この結果について、Appleの研究者らはパフォーマンスを著しく損なうことなく強力なプライバシー保証が達成可能であることを示唆すると述べている。
この研究は、保険や調達のような高リスク領域で自律交渉エージェントを設計・導入する際に、行動プライバシー漏洩のリスク評価と確率的ポリシーの導入が重要である可能性を示唆している。交渉プロトコルにおける差分プライバシーの確保は、推論攻撃からの保護とエージェントの信頼性向上に寄与するとみられている。
参考: Apple ML Research (アーカイブ) — 2026年7月10日 09:00 (JST)
原文ハイライト"Behavioral Privacy Leakage in Agentic Negotiation"