CORAL-KV発表、ビデオKVキャッシュを層間予測と残差符号化で圧縮
Albert Ge氏らの研究チームは10月7日(現地時間)、自己回帰型ビデオ拡散モデルにおけるキーバリュー (KV) キャッシュの新しい圧縮フレームワーク「CORAL-KV (Compact Cross-Layer Prediction and Residual Coding for Autoregressive Video KV Caches)」を発表した。この新技術は、長尺ビデオ生成における主要なメモリボトルネックとなっている増大するアテンションKVキャッシュの問題に対処する。CORAL-KVは、層間予測と残差符号化を組み合わせることで、メモリ使用量を大幅に削減しつつ、高い再構築忠実度を維持する。