Maximillian Rossi氏らは5月19日(現地時間)、大規模言語モデル（LLM）がテキストを介さずに直接通信する新たな手法「Latent Cache Flow (LCF)」に関する論文をarXiv cs.LGで発表した。この技術は、LLMエージェント間の高レイテンシや情報損失といった既存の課題を解決し、マルチエージェントシステムの設計・運用における効率性と柔軟性を飛躍的に高める可能性を秘める。開発チームにとって、複雑なエージェント連携をよりシンプルかつ低コストで実現する道筋を示すものとして注目される。
現在のLLMエージェントは、テキスト文字列を介して情報交換を行うのが一般的だ。この手法は、送信元のLLMが内部状態をテキストにデコードし、受信側のLLMがそのテキストをエンコードし直すプロセスを伴うため、著しいレイテンシや情報損失、そして不必要な計算コストが発生する。開発現場では、テキスト化によるニュアンスの欠落がエージェントの誤解釈を招き、システムの信頼性やデバッグの複雑さを増す要因となっていた。
先行研究であるCache-to-Cache (C2C)は、共有元モデルのKVキャッシュを直接受信側モデルに翻訳するアダプターを用いることで、テキストを介さない通信を試みた。しかし、C2Cのアダプターは各トークンを個別に翻訳するため、そのサイズが数百メガバイト規模と非常に大きく、学習コストも高かった。このサイズとコストは、特にリソースが限られた環境でのデプロイや、頻繁なモデル更新を伴う開発において実用上の大きな障壁となっていた。さらに、通信するモデルが完全に同一のコンテキストを共有している場合にのみ機能するという制約は、異なるタスクや状況で動作する多様なLLMエージェントを組み合わせるマルチエージェントシステムでは、設計の柔軟性を大きく損なう要因とされた。
これらの実務的課題を克服するために設計されたのが、今回提案されたLatent Cache Flow (LCF)である。LCFは、テキストを経由せず、LLMの内部表現である潜在空間で情報を直接交換することに主眼を置いている。効率性向上のため、LCFはKVキャッシュのキーとバリューを結合した上で、よりコンパクトな形式に翻訳・圧縮するアダプターを用いる。この設計により、LCFアダプターのサイズはC2Cアダプターの約4%（例えば13 MB対956 MB）にまで大幅に削減され、学習コストも低減する。アダプターのサイズが小さくなることは、マルチエージェント開発チームがフレームワークを選定する際に、デプロイの容易さや運用リソース消費の削減という点で重要な判断材料となる。
また、LCFは異なるコンテキストを持つLLMエージェント間の通信にも対応する。アダプターは、送信側モデルが保持する情報の中から、受信側モデルがまだ持たない新しい情報のみを要約して送信するように設計されている。これにより、受信側モデルは不要な情報を再学習することなく、効率的に知識を統合できる。この特性は、多様なタスクに取り組む複数のエージェントが連携して複雑な問題を解決するシナリオにおいて、システム設計の自由度を高め、従来必要だった複雑なコンテキスト管理レイヤーを簡素化できることを意味する。
初期の実験結果は、LCFの有効性を示している。同一のコンテキストを共有する設定では、LCFの13 MBアダプターが956 MBのC2Cアダプターよりも高精度な情報伝達を達成した。さらに、異なるコンテキストでの性能も検証された。この条件下において、LCFは従来のテキストベースの通信と比較して23%高い精度を実現し、かつ8.5倍高速な情報伝達が可能であることが報告されている。これらの結果は、LCFがマルチエージェントシステムの開発・運用において、既存のテキストベースの通信では難しかった高度な協調作業を、高精度かつ低レイテンシで実現するための重要な技術基盤となることを示唆している。
参考: arXiv cs.LG — 2026年5月25日 13:00 (JST)
原文ハイライト"Model-to-Model Communication Without Text"