Huawei Lin、Jinting Liu、Tan Yu、Weijie Zhaoらの研究者グループは2026年10月19日(現地時間)、大規模言語モデル（LLM）間の効率的な潜在通信を実現する新インターフェース「LatComm」を発表した。同手法はコンテキストのエンコーディングと読み取りを分離することで、コンパクト性、質問間での再利用性、異なるLLMによる読み取り可能性の3つの特性を全て提供する。12の多肢選択式質問応答データセットでは、平均精度が単一ベクトルベースラインと比較して最大10.2ポイント向上した。
複数の大規模言語モデル（LLM）を組み合わせたシステムでは、しばしば単一のコンテキストが多くの質問に利用されます。この際、コンテキストがテキスト形式でモデル間を渡されると、受信側のモデルは各質問ごとに全てのトークンを再処理するため、高い計算コストが発生していました。
この課題を解決するため、研究者グループはLatCommを開発しました。LatCommは、コンテキスト表現がコンパクトであり、複数の質問間で再利用可能であり、かつ異なるLLMによって読み取り可能であるという要件を満たします。このインターフェースは、コンテキストのエンコーディング（符号化）と読み取りのプロセスを分離する設計を採用しています。コンテキストは質問に依存せず一度だけエンコードされ、固定サイズのパケットに圧縮されます。このパケットはフリーズされたコンテキストエンコーダーLLMから、同様にフリーズされた異なるレシーバーLLMに送信されます。レシーバーLLMは、自身のプロンプトから計算されるゲートを介してクロスアテンションを利用し、パケット内の必要な情報のみを選択的に読み取ります。
LatCommの評価は、12の多肢選択式質問応答データセットとQuALITYデータセットで行われました。12のデータセットでは、LatCommは単一ベクトルベースラインと比較して平均精度を最大10.2ポイント向上させる結果を示しました。また、QuALITYデータセットにおいては、受信側のLLMへの入力サイズを57分の1に削減し、記事の質問に対する回答速度を3倍に高速化する性能が確認されました。本研究はarXiv上で公開されています。
参考: arXiv cs.CL — 2026年10月20日 02:58 (JST)
原文ハイライト"LatComm improves average accuracy over single-vector baselines by up to 10.2 points."