【速報】OpenAI、NVIDIA GPU活用「GPT-6 Astra Ultrafast」を提供開始
OpenAIは2026年10月1日(現地時間)、NVIDIA Blackwell GPUs上で動作する「GPT-6 Astra Ultrafast」をOpenAI APIおよびChatGPT Work、Codexユーザー向けに提供開始したと発表した。この新モードは、OpenAIモデルによる推論最適化により、Astra Standardモードと比較してトークン生成速度が最大8倍高速である。
Tag
#Inference
7 件の関連記事
8月24日(現地時間): エヌビディア、AIエージェント向けVera Rubin NVL72を発表、効率を最大30倍向上
エヌビディア (NVIDIA) は8月24日(現地時間)、AIエージェント向けに設計されたNVIDIA Vera Rubin NVL72システムを発表した。同システムは、エージェンティックAIワークロードにおいて、現行のNVIDIA GB300 NVL72と比較し、1メガワットあたりのスループットを最大30倍向上させ、トークンあたりのコストを最大35倍削減するとされる。NVIDIAは、この効率向上が電力制約のあるAIファクトリーにおけるエネルギー消費と収益性に直接影響すると説明している。
AMD、AI推論市場向けソリューション強化でタアラス買収を発表
AMDは2026年8月5日(現地時間)、AI推論シリコン開発を手がけるタアラス (Taalas) を買収する最終合意に達したと発表した。本買収は、AI推論市場の急速な成長とワークロードの専門化に対応するため、タアラスの差別化された推論技術とエンジニアリング専門知識をAMDの長期的なAIロードマップへ統合することを目的としている。タアラスの技術は、汎用アーキテクチャで生じるコンピューティングとメモリのボトルネックを削減し、推論データフローを最適化する。
Together AI、推論サービスSLA定義を詳説
Together AI（トゥゲザーAI）は2026年7月16日(現地時間)、同社ブログで、機械学習推論サービスにおける稼働時間保証（SLA）の信頼性指標、特に「99.9%アップタイム」の具体的な要件と、それを実現するためのアーキテクチャについて詳細を解説しました。同社は、ノードレベルからリージョンレベルまでの幅広い障害に対するサービス継続性について言及しています。
NVIDIA、推論ソフトでAIトークンコストを最大5分の1に削減
エヌビディア (NVIDIA) は6月30日(現地時間)、同社の推論ソフトウェアスタックにより、AIインフラにおけるトークンコストを大幅に削減したと発表した。特に、NVIDIAのBlackwellプラットフォーム上でDeepSeek V4モデルのトークンあたりのコストが、約1ヶ月で最大5分の1に削減されたことを明らかにした。AIプロジェクトが本番環境へ移行する中で、インフラ意思決定の焦点がチップのピーク性能からトークンあたりのコストへと変化していると指摘されている。
【速報】Together AI、MiniMax M3の推論効率化技術とホスティングを発表
Together AIは2026年6月1日(現地時間)、MiniMaxの最新モデルM3について、同社がプリファードクラウドパートナーとして効率的な推論を実現したと発表した。同社の推論およびカーネルチームは、KV-Block-Major sparse attention kernelなどの主要な最適化により、異なる同時実行レベルで81%から125%のスループット向上を達成した。MiniMax M3はオープンウェイトモデルとして公開後、Together AIが開発者向けエンドポイントとしてホストする。
Cerebras、AI推論用チップ需要高まりでIPO価格・規模引き上げへ
AIチップメーカーのCerebras Systemsは2026年5月11日(現地時間)、新規株式公開 (IPO) における発行株数と価格を引き上げる見込みだと報じられた。AI向け半導体需要が急増するなか、同社株への強い需要が背景にある。AIの演算処理はこれまでグラフィックス処理ユニット (GPU) が中心だったが、将来的には訓練から推論まで、より多様なハードウェア構成が求められるとの見方が示されている。