チーレ・ジャン (Qile Jiang) 氏らは2026年11月5日(現地時間)、論文公開サイトarXivに「SwarmEvolve: Latent Agent Swarms for Evolutionary Discovery and Optimization」と題した論文を提出した。本論文は、大規模言語モデル (LLM) ガイドの進化的探索が抱える処理速度の課題に対し、潜在空間 (latent space) で推論し、KVキャッシュ (KV caches) を介して情報共有を行うエージェントスウォームのフレームワーク「SwarmEvolve」を提案している。
LLMガイドの進化的探索は、AIエージェントを用いて数学的および計算上の問題に対するプログラムを改善する手法であり、反復的な解の洗練と高スコア手法の結合を通じて機能する。しかし、このプロセスは、LLMが各ラウンドで長い思考の連鎖をテキストとして生成し、多様性を維持するためにこの生成を何度も繰り返す必要があり、処理が遅くなるという課題があった。
SwarmEvolveは、各ラウンドで数百の低コストエージェントがスウォーム (swarms) として機能するフレームワークである。エージェントは潜在空間で推論し、テキストへのデコードなしで動作する。情報共有は、KVキャッシュを渡すことで行われる。各スウォームは異なる角度から問題を検討し、新規性フィルター (novelty filter) はエージェントの隠れ状態ベクトル (hidden state vectors) 間の距離を直接測定することで、最も異なるエージェントのアイデアを保持する。アイデアのクロスオーバーは潜在空間で自然に発生し、サマライザーエージェント (summarizer agent) が全スウォームメンバーの結合されたKVキャッシュを受け取る。
SwarmEvolveは、数学的発見と科学計算の21の問題において最高の平均スコアを達成した。他の最先端フレームワークが60分を要する最高のスコアに、中央値でわずか3〜8分で到達した。また、Qwen3 8B と組み合わせたSwarmEvolveは、AlphaEvolve がフロンティアLLMで最初に発見したソリューションを複数の問題で改善した。この研究は、潜在空間で通信するエージェントスウォームが、科学的問題のプログラム探索に対し、高速かつ低コストなアプローチを提供することを示している。
参考: arXiv cs.AI (アーカイブ) — 2026年11月6日 03:59 (JST)
原文ハイライト"agent swarms that communicate in latent space offer a fast, low-cost approach"