Together AIは2026年11月4日(現地時間)、AI推論向けに継続的なコンパイルを可能にする新システム「Together Compiler (トゥギャザー・コンパイラー)」を発表した。このシステムは高スループットのエージェントを活用し、多様な推論ワークロードに対し24時間以内に最適化を実施する。主要なオープンソースモデルにおいてスループット（TPS）を1.3倍から3倍向上させ、従来のエンジン起動に要する時間の課題を解決する。従来の固定ルールに依存する手法の限界を超える設計が特徴だ。
Together Compilerは、新しいモデル、ハードウェアプラットフォーム、顧客、ユースケース、トラフィックの形状といった動的なAI推論ワークロードに対応するために設計された。エージェントが最適化の探索空間を適応的に検索することで、従来の固定ルールやヒューリスティックに依存する手法の限界を超える。
Together Compilerは、実験スループットを最大化し、エージェントによる最適化中のGPUアイドル時間を最小化するpersistent engines (パーシステント・エンジン)というパラダイムを導入した。これにより、従来のシステムが数十分のエンジン起動時間を必要とするのに対し、エンジンを一度起動すれば再起動なしで候補となるフォワードパスをホットリロードできる。また、複数のエージェントを生成し、メッセージボードを通じて連携させることで、継続的に最適化案を生み出し、並行して作業を進める。
評価の結果、Together Compilerは最先端のオープンソースモデルであるKimi K3 (キミ K3)、GLM 5.3 (ジーエルエム 5.3)、MiniMax M3.1-Flash (ミニマックス M3.1-フラッシュ)、DeepSeek v4.1-Flash (ディープシーク v4.1-フラッシュ)において1.3倍から3倍高いTPSを達成した。SemiAnalysis (セミ・アナリシス)のInferenceX (インファレンスX)ベンチマークの低レイテンシーユースケースでは、MiniMax M3.1-Flashで1111 TPS、DeepSeek v4.1-Flashで1205 TPSを記録し、最先端の性能を示した。さらに、Llama 1B (ラマ 1B)のバッチサイズ1設定では、利用可能なオープンソースのメガカーネルを1.7倍上回る性能を発揮した。実験スループットはベースラインのエージェント型RSI性能最適化システムと比較して252倍高い。
Together Compilerは言語モデル推論以外のドメイン、例えば気象モデリング、偏微分方程式（PDE）、時系列データ、生物学にも適用可能である。
参考: Together AI Blog (アーカイブ) — 2026年11月4日 09:00 (JST)
原文ハイライト"Together Compiler: Continuous Compilation for AI inference"