arXivがKVキャッシュ圧縮新手法「Latent Compaction」発表
arXiv cs.CLが2026年10月14日(現地時間)付けで報じたところによると、インファ・チェン (Yingfa Chen) 氏らが、長文コンテキスト処理におけるキーバリュー (KV) キャッシュの圧縮に関する新しい手法「Latent Compaction」を発表した。この手法は、テスト時学習 (test-time training) を通じて文書固有のコンパクトなキャッシュを学習し、長大なコンテキストにおけるメモリ使用量とアテンションコストを削減しながら、未知の質問に対する情報保持能力を維持することを目指す。