Tag
8 件の関連記事
arXivは2026年10月30日(現地時間)、大規模言語モデル(LLM)システムにおけるモデル間の文脈転送に関する研究論文「ACCT: Asymmetric Cross-LLM Context Transfer」を公開した。Yuzhe Liu、Haolin Tian、Tonghan Wangの3氏が執筆したこの論文は、異なるスケールのLLM間でKVキャッシュを転送し、文脈計算の再利用を可能にすることで、推論時の計算コスト削減を目指す。ACCTはソースモデルが生成したKVキャッシュをスパースなKVステートに変換し、ターゲットモデルが元の文脈を再処理することなく利用できるようにする。
arXiv cs.CLが2026年10月14日(現地時間)付けで報じたところによると、インファ・チェン (Yingfa Chen) 氏らが、長文コンテキスト処理におけるキーバリュー (KV) キャッシュの圧縮に関する新しい手法「Latent Compaction」を発表した。この手法は、テスト時学習 (test-time training) を通じて文書固有のコンパクトなキャッシュを学習し、長大なコンテキストにおけるメモリ使用量とアテンションコストを削減しながら、未知の質問に対する情報保持能力を維持することを目指す。
Albert Ge氏らの研究チームは10月7日(現地時間)、自己回帰型ビデオ拡散モデルにおけるキーバリュー (KV) キャッシュの新しい圧縮フレームワーク「CORAL-KV (Compact Cross-Layer Prediction and Residual Coding for Autoregressive Video KV Caches)」を発表した。この新技術は、長尺ビデオ生成における主要なメモリボトルネックとなっている増大するアテンションKVキャッシュの問題に対処する。CORAL-KVは、層間予測と残差符号化を組み合わせることで、メモリ使用量を大幅に削減しつつ、高い再構築忠実度を維持する。
Nenad Banfic氏らの研究チームは9月18日(現地時間)、低ビットのキーバリュー（KV）キャッシュ量子化におけるビジョン言語モデル（VLM）の精度低下を抑制する新手法「HeadGuard（ヘッドガード）」を発表した。同手法は、既存のKVキャッシュ量子化器に選択的な高精度マスクを組み合わせることで、ストレージ削減と高精度維持の両立を目指す。これにより、AIモデルの効率性と性能向上に貢献する。
arXiv cs.AIが2026年6月2日(現地時間)付けで公開した論文によると、ヨセフ・チェン (Josef Chen) 氏らは、ロボットポリシー向けの新たなメモリシステム「AURA-Mem (Action-Utility Recurrent Adaptive Memory)」を発表した。このシステムは、ロボットが帯域幅の限られたエッジハードウェアで長期エピソードを実行する際のメモリ制約に対応し、ビデオRAM（VRAM）使用量を一定に保ちながら、メモリ書き込み回数を大幅に削減する。Key-Valueキャッシュ（KV-cache）がデータセンター向けである一方、AURA-Memはロボットの要求に特化して設計されている。
arXiv cs.CVは5月28日(現地時間)、ビデオ拡散モデルにおけるキーバリュー（KV）キャッシュのメモリ効率とスループットを改善する新手法「ビデオMLA（VideoMLA）」を発表した。この研究は、Multi-Head Latent Attention (MLA)をビデオ拡散に導入し、パーヘッドのキーと値を共有の低ランクコンテンツ潜在とデカップリングされた3D-RoPE位置キーに置き換えることで、キャッシュ層ごとのトークンごとのKVメモリを92.7%削減すると報告している。
arXiv cs.AI が2026年5月21日(現地時間)付けで報じたところによると、大規模言語モデル (LLM) ベースのマルチエージェントシステムにおける安全なキーバリュー (KV) キャッシュ共有のためのフレームワーク「LCGuard (Latent Communication Guard)」が発表された。LCGuardは、KVキャッシュを介した潜在的な情報漏洩を防ぎつつ、タスク関連情報の効率的な伝達を目指す。このフレームワークは、共有されるKVキャッシュを潜在的な作業記憶として扱い、キャッシュアーティファクトがエージェント間で転送される前に表現レベルの変換を適用する。
Together AIは2026年5月7日(現地時間)、ブログ記事を通じて、DeepSeek-V4モデルの提供に関する取り組みと、100万トークンコンテキストが推論システムの問題に変わった現状について発表した。同社はNVIDIA HGX B200上での初期の立ち上げ作業に基づき、この問題への対応策を提示している。