NVIDIAは2026年7月14日(現地時間)、AIインフラストラクチャにおけるワットあたりの性能 (performance per watt) の重要性を強調した。AIファクトリーの収益性と利益率は、固定電力予算内で生成できるトークン数によって決定されるため、この指標が基盤となると指摘。同社は、NVIDIA Blackwell NVL72プラットフォームがこの性能を最大化し、NVIDIA Vera Rubinプラットフォームがラック規模でのエネルギー効率をさらに高めると説明した。
NVIDIAによると、今日の最先端AIモデルはほぼすべて、mixture-of-experts (MoE) アーキテクチャで稼働している。ラック規模でMoEを提供するには、システムとソフトウェアスタックのあらゆる層にわたる共同設計 (codesign) が求められるという。NVIDIA GB300 NVL72システムは、最新の主要オープンモデルにおいてNVIDIA Hopper世代と比較して最大25倍のワットあたり性能を実現する。
このワットあたり性能は、シリコンからソフトウェアまで、ラック規模システム全体のコンポーネントを連携させてAI推論ワークロードのトークンスループットを最大化する共同設計の成果である。これには、ラック規模の性能に不可欠なNVIDIA NVLink Switchや、NVIDIA Dynamo、TensorRT LLM、SGLang、vLLMを含む推論ソフトウェアスタックが含まれる。これらのソフトウェアは、NVFP4 quantizationやdisaggregated servingなどの最適化を可能にする。例えば、DeepSeek V4においては、ワットあたり性能が1ヶ月で最大5倍向上した事例もある。
NVIDIA DSXプラットフォームの電力・効率ソフトウェアであるNVIDIA DSX MaxLPSは、グリッドから供給される電力のうち有用なAIワークに変換されるのが約60%に留まるという課題に対応し、GPUとラック間でリアルタイムに電力をシフトさせることで、同じ電力予算内で最大40%多くのGPU稼働を可能にする。Anthropic やOpenAIといった主要AIラボは、推論処理にNVIDIA Blackwell NVL72システムを利用している。コアウィーブ (CoreWeave) はKimi K2.6をNVIDIA GB300 NVL72に導入し、パープレキシティ (Perplexity) はNVIDIA GB200 NVL72でQwen3 235Bなどを実行。ファイヤーワークスAI (Fireworks AI) は、NVIDIA BlackwellプラットフォームでGLM 5.2を展開し、顧客の生産環境を支援している。
参考: NVIDIA Blog (AI) — 2026年7月15日 00:00 (JST)
原文ハイライト"performance per watt — a metric that can’t be gamed, only earned through real-world results"