Apple ML Researchは10月15日(現地時間)、オープンソースの配列フレームワークMLXを強化し、Mac Studio上での大規模言語モデル（LLM）推論における分散処理への対応を発表した。最新バージョンのMLXとmacOS 26.2のRDMAドライバーを活用することで、M5 Ultraを搭載したMac Studio単体での性能向上に加え、複数台のMac Studioを連携させた極めて大規模なモデルの実行を可能にする。
Apple ML Researchがこの取り組みを通じて目指すのは、Mac Studioに搭載されたApple siliconを活用し、AI研究者や開発者がプライベートな環境で最新のモデルや手法をローカルに試せるようにすることだ。今回の発表では、約1兆パラメータを持つ「Muse Spark Open」といったフロンティアクラスのモデルを、最新版のMLXを使ってMac Studioから実行する方法が示された。特に、4台のMac Studioからなるクラスターでは、「Muse Spark Open」が毎秒36トークン以上の生成速度を達成したことが報告されている。
MLXはApple siliconのユニファイドメモリ・アーキテクチャを最大限に活用しており、推論およびファインチューニングの手法を自身のハードウェアで効率的に実行できる。Appleは以前の発表でM5アーキテクチャとGPU Neural Acceleratorの優位性を強調していたが、今回の検証では、M5 Ultraと前世代のM3 Ultraを搭載したMac Studioで複数のオープンウェイトLLMをベンチマークした。その結果、Qwen 3.8 (27 B) や Mistral Medium 3.5 (128 B) といったモデルは、単一のMac Studio（512GBユニファイドメモリ構成）に収まることが示された。
M5 UltraのGPU Neural Acceleratorは、特に計算負荷の高いTime to first token (TTFT) の速度において、M3 Ultraと比較して最大4.6倍の高速化を実現した。これは、専用の行列乗算操作をサポートしていることによるものだ。さらに、M5 Ultraチップのユニファイドメモリ帯域幅は1.2 TB/sに達し、M3 Ultraの819 GB/sから大幅に向上しており、この帯域幅の向上が生成速度を1.6倍高速化する結果につながっている。Mac StudioはLLM推論において優れた電力効率も示しており、M5 Ultra搭載モデルのピーク消費電力は約300Wとされている。
一方で、Muse Spark Openのような極めて大規模なフロンティアクラスのモデルは、単一マシンだけではその全てのデータを収容することが難しい。例えば、Muse Spark Openは4ビット量子化（NVFP4）形式でも約493GBのメモリフットプリントを必要とするため、中間計算に必要なメモリを含めると単体では実行できない。この課題に対処するため、MLXはモデルの半分を一方のMac Studioに、もう半分をもう一方に格納し、パイプライン並列化によって推論を分割実行することを可能にする。
MLXは分散処理における様々な並列化スキームをサポートしており、macOS 26.2で導入されたThunderbolt 5上の低遅延RDMAドライバーや、MLXが提供する新しい通信コレクティブがこれらの並列化スキームの基盤となる。
参考: Apple ML Research — 2026年10月15日 09:00 (JST)
原文ハイライト"Local and Distributed Large LLM Inference with MLX and RDMA on Mac Studio"