Albert Ge氏らの研究チームは10月7日(現地時間)、自己回帰型ビデオ拡散モデルにおけるキーバリュー (KV) キャッシュの新しい圧縮フレームワーク「CORAL-KV (Compact Cross-Layer Prediction and Residual Coding for Autoregressive Video KV Caches)」を発表した。この新技術は、長尺ビデオ生成における主要なメモリボトルネックとなっている増大するアテンションKVキャッシュの問題に対処する。CORAL-KVは、層間予測と残差符号化を組み合わせることで、メモリ使用量を大幅に削減しつつ、高い再構築忠実度を維持する。
自己回帰型ビデオ拡散モデルを用いた長尺ビデオ生成において、アテンションキーバリュー (KV) キャッシュの継続的な増大が主要なメモリボトルネックとなっています。この課題に対応するため、近年では、類似のキーおよび値ベクトルをグループ化し、残差誤差を量子化するクラスタリングベースの量子化手法が、ビデオKVキャッシュを圧縮する有効なアプローチとして登場していました。しかし、先行フレームの圧縮された履歴を参照する際に生じる小さな再構築誤差が、ビデオの生成が進むにつれて複合し、品質低下を引き起こすという問題が指摘されていました。
こうした背景の中、Ge氏らの研究チームは、クラスタリングによって活用される層内類似性だけでなく、ビデオモデルにおけるキャッシュ層間の強い依存関係に着目しました。この発見が、新しいフレームワークであるCORAL-KVの開発を強力に推進しました。CORAL-KVの正式名称はCalibrated Offline, Residual-coded, and Adapted Locallyです。このフレームワークは、各層のキャッシュ状態を利用して後続層のキーと値を予測し、残る予測残差を量子化することで、KVキャッシュの効率的な圧縮を実現します。
CORAL-KVの核となるのは、コンパクトなblock-diagonal-plus-low-rank (block-DPLR) 予測器の構築です。この予測器は、ブロック対角成分によって各アテンションヘッド内のチャネル関係をモデル化し、グローバルな低ランク項によってヘッド間の依存関係をモデル化するという特徴を持ちます。CORAL-KVは、予測器を異なるビデオ間で再利用する柔軟な設定と、軽量なブロック対角予測器を現在のビデオに再適合させることで、より高い忠実度を実現する設定の両方を提供し、柔軟な忠実度とメモリのトレードオフを可能にします。
本研究チームは、HY-WorldPlayおよびMAGI-1の両データセットで広範な評価を実施しました。その結果、予測器を再利用する構成においては、既存のQVG-4と比較して、Peak Signal-to-Noise Ratio (PSNR) をそれぞれ0.32 dBおよび4.95 dB向上させるとともに、キャッシュメモリの使用量を48%および37%削減することに成功しました。また、ビデオ適合構成は、QVG-Proに対してMAGI-1のPSNRを3.77 dB向上させ、キャッシュメモリを33.7%削減するという優れた結果を示しました。CORAL-KVは、拡張された生成においてもより高い再構築忠実度を維持し、時間的な不連続性を低減しながら、同等の生成レイテンシを保持できることが確認されています。これらの成果は、長尺ビデオ生成におけるメモリボトルネックの解消に向けた重要な一歩となります。
参考: arXiv cs.CV (アーカイブ) — 2026年10月12日 13:00 (JST)