arXiv cs.CVは10月16日(現地時間)、論文『Rethinking the design space of Vanilla Pixel Diffusion Transformers』を発表した。この研究は、バニラピクセル拡散トランスフォーマーの設計空間を再検討し、新たな適応的パラメータ化手法「MFlow」と、生成画像の高周波特性を改善するモジュール「ConvRefiner」を導入している。潜在拡散モデルの代替として再び注目されるピクセル空間拡散モデルの性能向上を目指すものだ。
論文『Rethinking the design space of Vanilla Pixel Diffusion Transformers』は、ピクセル空間拡散モデル（Pixel Diffusion Transformers）が、損失の大きい潜在ボトルネックと個別に訓練されるオートエンコーダーを回避する選択肢として再注目されている現状を指摘する。既存のJiTモデル（JiT model）が、一般的な速度予測（u-prediction）をクリーン画像予測（x0-prediction）に置き換えることでピクセル空間で直接画像を生成できることを踏まえ、この選択肢を再評価した。
研究者らは、適応的なパラメータ化であるMFlow（MFlow）を導入した。MFlowは拡散訓練とエンドツーエンドで学習され、データの主要な方向性においてx0-predictionとu-predictionの間を補間する。この研究の結果、望ましいパラメータ化はデータ表現とモデル容量によって体系的に変化することが判明した。特に、モデル容量の増加は速度予測への選好をシフトさせると報告されている。MFlowはImageNet（ImageNet）、UCF-101動画（UCF-101 video）、大規模テキスト・トゥ・画像生成の各タスクで評価され、様々な設定において競争力のある、または改善された生成性能を示した。
さらに、論文は、バニラピクセル拡散トランスフォーマーが、パラメータ化によらず、実際の画像と比較して持続的な高周波不足を抱えていることを明らかにした。この問題に対処するため、研究者らはConvRefiner（ConvRefiner）を提案した。ConvRefinerは軽量な畳み込みモジュールであり、拡散バックボーンを固定したまま、敵対的損失を用いて事後的に訓練される。少量の追加訓練で、ConvRefinerは生成画像の高周波統計を復元し、FID（FID）を維持する。
参考: arXiv cs.CV — 2026年10月17日 02:59 (JST)