Together AIは7月8日(現地時間)、フロンティアオープンモデル向けの予約型推論容量サービス「プロビジョンド・スループット (Provisioned Throughput)」の提供を開始した。本サービスは、トークンベースの料金体系と99%の稼働時間サービス品質保証契約 (SLA) を提供し、企業が予測可能で信頼性の高い推論能力を利用できるよう設計されている。
Together AIが7月8日(現地時間)に提供を開始したプロビジョンド・スループット (Provisioned Throughput) は、オープンウェイトモデルの推論容量を事前に予約できるサービスで、トークンベースの課金と99%の稼働時間SLA（サービス品質保証契約）を特徴とする。これにより、利用企業はGPU時間計算やインフラ管理の負担なしに、事前に最適化されたモデルをトークン料金で利用することが可能となる。
現時点ではMiniMax M3とGLM-5.2モデルで利用可能であり、今後さらに多くのモデルが追加される予定だ。本サービスで提供されるキャパシティは、北米 (North America) および欧州・中東・アフリカ (EMEA) 地域で提供され、最低利用期間は1ヶ月に設定されている。コスト面においては、Claude Opus 4.8のリスト価格と比較して最大90%の低減を実現するとされている。
Together AIのプロビジョンド・スループットは、信頼性の高い本番ワークロード向けに設計されており、従来のサーバーレス推論が主に開発用途のベストエフォート型であった点とは一線を画す。一方で、より深い制御が必要なカスタムモデルの場合には、専用推論 (Dedicated Inference) が適している。プロビジョンド・スループットでは、プロビジョンド・スループット・ユニット (PTU) と呼ばれる容量単位を購入する形式が採用されており、1PTUあたり1分あたり0.05ドルで提供される。
今回のTogether AIの発表は、オープンモデルの推論利用におけるコスト効率と安定性への需要の高まりを反映したものと見られる。主要クラウドプロバイダーが提供する同様の専用推論サービスに対し、Together AIはオープンモデルに特化することで競争優位を確立しようとしている可能性がある。これにより、独自のモデルを運用したい企業にとって、インフラ運用やコスト予測の課題を解決する選択肢の一つとなり、オープンモデルのエコシステム全体の活性化に寄与する可能性がある。
参考: Together AI Blog — 2026年7月8日 09:00 (JST)