Tag
9 件の関連記事
研究論文投稿サイトのarXiv (アーカイヴ)が2026年10月8日(現地時間)に公開した論文「When Routing Reveals Membership: Privacy Leakage from MoE Router Telemetry」は、Mixture-of-Experts (MoE)言語モデルが推論時に生成するルーティング情報が、モデルのファインチューニングに使用されたデータのプライバシー漏洩を引き起こす可能性を指摘した。本研究では、ルーティング情報を用いた新たなメンバーシップ推論攻撃の手法が提示されている。
Google Researchは2026年10月5日(現地時間)、人工知能（AI）エージェントのプライバシーとセキュリティに関する新たなワークショップ報告書「Open and Emergent Problems in Agentic Privacy and Security: A Contextual Angle」を発表した。同報告書は、AIエージェントが文脈に応じた行動規範を理解し、それに制約されることで、ユーザーが信頼できるシステムを構築するための主要な研究方向性を示している。この取り組みは、50名以上のアカデミアおよび業界リーダーが参加したGoogle Contextual Agent Privacy and Security (CAPS) Workshopの成果としてまとめられた。
学術論文リポジトリ arXiv cs.CRは9月11日(現地時間)、論文「Canaries in the Bank: Auditing User-Level Privacy in Private Evolution」を公開しました。この研究は、フェデレーテッド環境で合成データを生成する「Private Evolution (PE)」におけるユーザーレベルのプライバシーについて、プロトコル認識型経験的監査の評価結果を示しています。理論上の最悪ケースプライバシーと、実際のプロトコル操作で発生しうる情報漏洩のギャップを定量的に示しました。
Ali Akarma氏らが2026年9月3日(現地時間)、arXiv cs.CRで、車両エッジネットワークにおけるフェデレーテッド学習のプライバシー漏洩に関する研究論文を公開した。論文は、5G/6Gエッジインテリジェンスを活用した車両ネットワークにおいて、フェデレーテッド学習（FL）によるモデル更新が、送信元のクライアント識別情報を漏洩させるリスクを指摘した。慣性計測装置（IMU）の測定値に基づく重みデルタから、サーバがクライアントIDをほぼ完璧な精度で推論できることを確認している。
arXivは2026年9月3日(現地時間)、Jiechao Gao氏らが執筆した論文「PrivateHub: Contrastive Diffusion Model for Private Sensor-Intensive Environment Data Generation」を公開した。同論文は、センサーが集中する環境におけるプライバシー保護とサービス提供の両立を目指す新たなモデル「PrivateHub (プライベートハブ)」を提案している。PrivateHubは、拡散モデル内でコントラスト学習を活用し合成データを生成することで、プライベートな活動の推論を阻止しつつ、非プライベートなアプリケーションは機能維持可能にする。
クンリン・ツァイ (Kunlin Cai) 氏らの研究チームは2026年9月1日(現地時間)、オンライン学術論文リポジトリarXivに、テキスト音声合成 (TTS) モデルにおけるブラックボックスメンバーシップ推論攻撃 (MIA) に関する初のフレームワークを発表した。この研究は、プライベートデータセットでファインチューニングされたTTS基盤モデルが、個人の生体認証情報や機密性の高い音声コンテンツを漏洩させる深刻なプライバシーリスクを持つことを指摘している。
Ye Tao氏ら研究チームは2026年8月20日(現地時間)、フェデレーテッドラーニングにおける大規模言語モデル（LLM）のプライバシー侵害を引き起こす勾配逆転攻撃に対する新たな防御手法「AEGIS (Attention-Embedding Gradient Isolation Shield)」を開発したと発表した。この手法は、トランスフォーマーの勾配構造から特定された3つの情報漏洩チャネルを全て閉鎖することで、既存の防御策が抱える課題に対処するとされる。
OpenAIは2026年8月10日(現地時間)、ChatGPTにおける広告展開を英国、メキシコ、ブラジル、日本、韓国を含む複数市場で開始したことを発表した。この広告は、FreeおよびGoサブスクリプション層のログイン済み成人ユーザーを対象とし、より多くのユーザーへの無料アクセス支援を目的としている。
Appleは2026年7月(現地時間)、自律交渉エージェントにおける行動プライバシー漏洩を形式化し、推論攻撃を緩和する研究論文を発表した。この研究は、保険や調達などの高リスク環境で利用されるエージェントが直面する、交渉動態から私的制約が推論される脅威に対応。差分プライバシー、合意達成、高交渉ユーティリティを同時に保証する適応型確率的交渉ポリシーを設計した内容だ。