学術論文リポジトリ arXiv cs.CRは9月11日(現地時間)、論文「Canaries in the Bank: Auditing User-Level Privacy in Private Evolution」を公開しました。この研究は、フェデレーテッド環境で合成データを生成する「Private Evolution (PE)」におけるユーザーレベルのプライバシーについて、プロトコル認識型経験的監査の評価結果を示しています。理論上の最悪ケースプライバシーと、実際のプロトコル操作で発生しうる情報漏洩のギャップを定量的に示しました。
Private Evolution (PE) は、フェデレーテッド設定において、ユーザーの生データを公開することなく高精度な合成データを生成する技術として知られています。しかし、攻撃者がPEプロトコルに従いながら、理論的に可能な最悪ケースのプライバシー損失を実際に達成できるかについては、これまで不明瞭でした。
論文著者であるサイ・アパルナ・アケティ (Sai Aparna Aketi) 氏らは、この課題に対処するため、プロトコル認識型の経験的監査手法を導入しました。この監査では、サーバーが単一の共有候補バンクにコミットし、そのエントリの約1%を、既知の非プライベートなカナリアから派生したプローブに置き換える方式を採用しています。
評価された攻撃は8種類に及び、変更なしのバンクをベースラインとしたものから、正確なコピー、妥当な言い換え、高エントロピーの合成ノンスを用いたものまで多岐にわたります。実験は、YelpとSentiment140のデータセットを用いて実施されました。
実験の結果、自然言語テキストをベースとする攻撃は、理論上の差分プライバシー (DP) 境界を大幅に下回ることが判明しました。一方で、ノンスベースの攻撃は、より強力な境界を示し、PEメカニズムのプライバシー天井に最も近い情報漏洩を達成することが明らかになりました。これらの結果は、形式的な最悪ケースのプライバシー保証と、プロトコルに則った候補バンク操作を通じて実際に発生しうる情報漏洩との間に存在するギャップを定量的に示しています。
参考: arXiv cs.CR (アーカイブ) — 2026年9月15日 13:00 (JST)
原文ハイライト"Auditing User-Level Privacy in Private Evolution"