arXivは11月18日(現地時間)、ドンソ・ソン氏とジェイ・フン・ジュン氏による研究論文を公開した。この論文は、生成型スパース敵対的攻撃の転移性を大幅に向上させる新手法「デンシティ・フィードバック・コントロール(Density Feedback Control: DFC)」を提案。既存手法が抱える、摂動の密度が固定スパース性係数に間接的に依存し調整が困難であるという課題に対し、DFCがより効果的な攻撃生成を可能にする。
DFCは、攻撃生成モデルのアーキテクチャや損失関数に変更を加えることなく、各エポックの終わりに観測されるハードマスク密度と目標密度の乖離に応じて係数を動的に調整する。この手法は、エンコーダー・デコーダー・ネットワークを活用し、ブラックボックス環境におけるモデルの堅牢性評価に利用可能な、転移性の高いスパースな摂動(意図的なノイズ)を生成する。
具体的に、DFCは目標密度10%の設定において、平均密度を目標の1パーセントポイント以内に収束させることに成功した。また、このアプローチは、より少ないピクセルに摂動を加えながらも、評価対象とした3つの基本攻撃のうち2つにおいて、畳み込みニューラルネットワーク(CNN)やトランスフォーマーを標的とする転移攻撃成功率(Attack Success Rate: ASR)の改善を示している。
詳細な学習過程の追跡では、DFCが係数を緩和するにつれて転移ASRが摂動密度と相関して回復し、既存の固定係数ベースライン手法を上回る性能を発揮することが確認された。これにより、DFCが攻撃の有効性と効率性の両面で優位性を持つことが示された。
一方で、摂動をソースモデルの特徴重要領域に限定するEGS-TSSAについては、DFCは一貫した改善をもたらさなかった。論文では、この特定の制限と密度フィードバックの相互作用についても深く分析されており、今後の研究における課題と展望が示唆されている。
参考: arXiv cs.LG — 2026年11月20日 14:00 (JST)