Apple ML Researchは2026年10月7日(現地時間)、生成モデルのサンプリング効率を高める新たな手法「Normalizing Trajectory Models (NTM)」を発表した。NTMは、拡散ベースモデルが抱える少ステップ生成時の課題に対し、各逆ステップを条件付き正規化フローとしてモデル化し、厳密な尤度学習を可能にする。これにより、高品質な画像を少ないステップで生成しつつ、生成過程全体の厳密な尤度を維持する。
NTMは、サンプリングを多くのガウスノイズ除去ステップに分解する拡散ベースモデルの仮定が、少ない粗い遷移に圧縮された場合に破綻するという課題に対処するために導入された。既存の少ステップ手法は蒸留、一貫性学習、または敵対的目標を通じてこの問題に対処してきたが、尤度フレームワークを犠牲にしていた。
NTMは、各逆ステップを表現力豊かな条件付き正規化フローとしてモデル化し、厳密な尤度学習を用いる。アーキテクチャ面では、各ステップ内の浅い可逆ブロックと、軌跡全体にわたる深層並列予測器を組み合わせることで、スクラッチからのエンドツーエンドの学習、または事前学習済みのフローマッチングモデルからの初期化が可能となる。
NTMの厳密な軌跡尤度により、自己蒸留も可能になる。モデル自体によって誘導されるスコア関数で学習された軽量なデノイザーは、わずか4ステップで高品質なサンプルを生成する。テキストから画像を生成するベンチマークにおいて、NTMは既存の強力な画像生成ベースラインと、わずか4サンプリングステップで同等かそれ以上の性能を示しながら、生成軌跡全体の厳密な尤度を独自に維持している。
本研究の著者には、University of PennsylvaniaのJiatao Gu氏、UIUCのYing Shen氏らが名を連ねる。Apple ML Researchは、関連研究としてTrajectory as the TeacherやNormalizing Flows with Iterative Denoisingなども公開している。
参考: Apple ML Research — 2026年10月8日 09:00 (JST)
原文ハイライト"NTM matches or outperforms strong image generation baselines in just four sampling steps"