huggingface.coが2026年11月6日(現地時間)付けで報じたところによると、StepX-OPDは、拡散モデルにおける多教師オンポリシー蒸留を再設計した。これにより、従来のフルステップモデルが持つ能力と少数ステップでのサンプリングという二つの段階を統合し、効率と品質の同時向上を実現する。特に4ステップの生成で高いスコアを達成し、40ステップのモデル性能を超える効率を示している。
StepX-OPDは、テキストから画像を生成する拡散モデルが、指示への追従、テキストレンダリング、人間による好みに対応する能力を、少ないステップで同時に実現する必要があるという課題に対応した。従来の開発プロセスでは、まず多教師オンポリシー蒸留を通じてフルステップモデルがこれらの能力を統合し、その後にステップ蒸留の固定教師として機能する二段階に分かれていた。しかし、この二段階アプローチでは、圧縮後のフルステップモデルのスコアが低下し、第二段階は第一段階が完了するまで開始できないという問題があった。
StepX-OPDは、この二つの段階を統合する。一つの学生モデルが全ての能力を獲得しつつ、少ないステップでのサンプリングを同時に学習する。凍結された専門家が、学生モデル自身のロールアウトが訪れる状態に基づいてモデルを監督する。また、ロールアウトのKL重み速度不一致がクリーンエンド付近で最も顕著であることから、ロールアウトの低ノイズ部分で学生モデルの速度を回帰させる。さらに、能力統合によってプロンプトにない文字が画像に書き込まれる問題を低減するバリアントも提供されている。
SD3.5-MediumとFLUX.1-devの二つのアーキテクチャで、指示への追従、テキストレンダリング、画像品質、人間による好みの観点から評価を実施した結果、StepX-OPDは比較対象の4ステップ手法の中で最高の正規化平均スコアを達成し、40ステップのFlow-OPDモデルの性能を上回った。特にSD3.5-Mediumでは、段階的なDiffusionOPDとそれに続くステップ蒸留と比較して、約37%少ないGPU時間で学習が完了した。
参考: huggingface.co (アーカイブ) — 2026年11月6日 19:39 (JST)
原文ハイライト"StepX-OPD attains the highest normalized average score among the four-step methods compared"