arXiv cs.LGは2026年9月30日(現地時間)、拡散モデルの画像生成プロセスを高速化する新たな手法、RASS (Rank-Aware Speculative Sampling) に関する論文を発表した。この研究は、計算リソースをより効率的に配分するツリーベースの投機的サンプリングアプローチを提案し、既存のD-GRS (Diffusion Greedy Rejection Sampling) と比較して性能向上を達成したと報告している。
この論文は、投機的サンプリングがターゲットの分布を維持しつつ、安価なドラフト状態を並行して検証することで拡散モデルの生成を加速すると説明している。先行研究であるD-GRS (Diffusion Greedy Rejection Sampling) は、単一チェーンドラフトよりも並列計算バジェットを効率的に割り当て、ノードごとにK個の条件付き独立候補を生成し、生成順序で順次テストする。
RASS (Rank-Aware Speculative Sampling) は、候補が追加のターゲットモデル評価なしで情報豊富なランキングを示すというD-GRSの特性を活用する。これを踏まえ、RASSはランク認識リスト結合に基づく投機的ドラフトツリーの検証ルールとして導入された。この手法は、提案とターゲットの平均変位に沿ってドラフト候補を順序付け、選択された提案とターゲット分布間の全変動を最小化するように最適化された重みでランクをサンプリングする。
最終的に選択された候補はターゲットと最大限に結合され、残差補正により、任意のランク重みの選択に対して正確なサンプリングが保証される。RASSの評価は、ガウス混合ターゲット、FFHQデータセットでの無条件ピクセル空間生成、CIFAR-10データセットでの条件付き生成、そしてCOCO2014プロンプトを用いたStable Diffusion 3.5での潜在拡散に適用された。
標準的なサンプリングと比較した投機的サンプリングのターゲットモデル評価回数の比率で測定した結果、RASSはD-GRSに比べて評価されたすべての設定で改善を示した。特にCIFAR-10においては、同等の計算バジェットで約20%の性能向上を達成した。
参考: arXiv cs.LG — 2026年10月5日 13:00 (JST)