arXivは2026年10月15日(現地時間)、インヘン・ワン (Yingheng Wang) 氏らによる研究論文を公開し、拡散モデルの学習効率と生成品質を高める新しい手法「ローカル・アピアランス・ピュリフィケーション (LAP)」を発表した。LAPは、既存の事前学習済み視覚エンコーダから生成により有用な情報を精製し、アラインメントのターゲットを最適化する。この手法は、拡散モデルのトレーニングや推論プロセスに一切変更を加えることなく適用可能だ。
LAPは、拡散モデルの中間特徴を事前学習済み視覚エンコーダと一致させる表現アラインメントの課題に取り組む。従来のアラインメント手法が、生成にとって有用な情報を区別せず表現を照合していたのに対し、LAPは局所的に予測可能な内容を除去し、その残差情報に対してアラインメントを実行する。
このアプローチにより、マスクド・オートエンコーダ (MAE) などのエンコーダが、より効果的なアラインメントターゲットとして機能するようになる。研究チームは、固定されたエンコーダ内で制御された介入を行うことで、効果的なアラインメントがターゲットが強調する情報に依存することを示した。LAPはアラインメントターゲットのみを修正するため、拡散モデルのトレーニングや推論に変更を要求しない。
LAPを適用することで、MAE、エイムブイツー (AIMv2)、CLIP、ディーノブイツー (DINOv2)、ディーノブイスリー (DINOv3) の5種類の事前学習済み表現において生成品質が向上した。特にMAEでの改善幅が最も大きく、イメージネット-256 (ImageNet-256) データセットとエスアイティー-ビー/ツー (SiT-B/2) モデルを用いた評価では、FID値を53.1から42.3に削減した。この効果は、より強力なアラインメント手法やトークナイザを使用した場合にも持続することが確認されている。
また、研究チームは拡散モデルの隠れ状態を使用せずにターゲットがどれだけ効果的に照合できるかを測定するコンスタント・リードアウト・テストを導き出した。このテストは、LAPによる改善効果を予測するのに有用であり、13のエンコーダ全体でスピアマンの順位相関係数 $\rho=0.94$ を示している。
参考: arXiv cs.CV — 2026年10月16日 13:00 (JST)