大規模言語モデルのKVキャッシュ、編集・構成可能な特性を提示
arXivは2026年6月14日(現地時間)、Bojie Li氏らによる論文「Models Take Notes at Prefill: KV Cache Can Be Editable and Composable」を公開した。同研究は、大規模言語モデル（LLM）のキーバリュー（KV）キャッシュが、これまで考えられていたよりも編集可能で構成可能であるという新たな知見を提示している。既存のプレフィックスキャッシングにおける課題を指摘し、モデルがプリフィル時に既に「結論」をメモするメカニズムを解明した。