Microsoftは10月12日(現地時間)、次世代AIアクセラレータ「Azure Maia 300」のアーキテクチャ詳細を発表した。同アクセラレータは、大規模言語モデル（LLM）推論向けにシステム全体を最適化する設計哲学に基づき、ソフトウェア、シリコン、ラックインフラ、ネットワーキング、データセンターを単一プラットフォームとして共同設計する。
Maia 300は第3世代のアクセラレータであり、複数ステップ実行、長文コンテキストデコード、ツール利用といったエージェントワークロードの需要に対応する。効率的なデータ管理を重視するSDLA（Software Defined Locally Accessed Dataflow Architecture）アーキテクチャを基盤とし、データ配置、移動、変換、同期をソフトウェアで明示的に調整する機能を強化した。
アーキテクチャ面ではマルチチップレット構造を採用し、演算機能をTSMC N2Pプロセスに配置する一方、メモリコントローラとI/O機能は帯域幅と接続性に最適化された別のダイに分離した。この戦略により、システムの演算FLOPsは36%増加し、HBM帯域幅は2.5倍、スケールアップ帯域幅は14%向上した。
低精度推論も最適化されており、MXFP4や3ビット未満のストレージ形式が導入されている。メモリ階層は8つのHBM4スタックを備え、アクセラレータあたり288GBの容量を提供する。
ネットワーキングにおいては、カスタムAIトランスポートに基づくAIネットワークコントローラを搭載し、最大12,288アクセラレータからなるスーパーポッドを構築する。スーパーポッド内のどのアクセラレータに対してもホストや個別のNICを介さずに直接通信を開始できる。これにより、低遅延の通信パスと柔軟なジョブ配置が実現される。
参考: azure.microsoft.com (アーカイブ) — 2026年10月12日 22:00 (JST)
原文ハイライト"Deep dive into Azure Maia 300 architecture"