Tag
3 件の関連記事
Apple ML Researchは2026年8月4日(現地時間)、画像生成に用いられる拡散トランスフォーマー（DiTs）における外れ値トークンの問題とその制御に関する研究成果を発表した。先行研究ではVision Transformers（ViTs）が少数の高ノルムトークンを生成し、不釣り合いな注意を引きながら限定的な局所情報しか持たないことが示されていたが、生成モデルでの役割は不明瞭だった。本研究は、この現象がRepresentation Autoencoder (RAE)-DiTパイプラインのエンコーダーとデノイザーの両方で発生することを示している。
arXivは7月16日(現地時間)、Jiacheng Liu氏とJason Liu氏らが、高解像度動画拡散モデルのメモリ効率を大幅に改善する新手法「MegaSlide-DiT」を発表しました。この手法は、単一のH200 GPUと1.5TBのホストRAMを用いて、1050億パラメータを持つDiffusion Transformer (DiT) の適応を実証しています。これにより、既存の大規模生成モデルが直面するメモリ制約を克服する道筋が示されました。
arXiv cs.CV は7月21日(現地時間)、ジェネレーティブ画像生成における領域制御に新たな手法を導入する論文を公開した。この論文によると、Diffusion Transformers (DiTs) に「appearance pointers」と呼ばれる機能を導入することで、テキストプロンプトのみでは困難だったマテリアルやオブジェクトの識別、空間配置といった要素の正確な領域制御が可能になる。これにより、クリエイティブ分野の専門家が求める高精度な領域制御の課題解決を目指す。