Hugging Face Blogは2026年10月20日(現地時間)、PyTorch (パイソン) 2.15におけるMPS (Metal Performance Shaders) バックエンドの大幅な機能強化について報じた。Mac上でのモデル実行と学習を高速化するため、FP8 (Float8) 形式のサポート、言語モデルのデコーディング経路最適化、新たなMetal (メタル) カーネルの導入が行われた。これにより、これまで課題となっていたパフォーマンスのボトルネックやメモリ使用量の問題が改善されたとされている。
PyTorch (パイソン) 2.15では、MacをPyTorch (パイソン) モデルの実行および学習における「ファーストクラス」な環境とすることを目指し、MPS (Metal Performance Shaders) バックエンドへの多数の貢献がなされた。
主な強化点は以下の通り。
-
FP8 (Float8) 形式のサポート:
float8_e4m3fn値のメモリ使用量がBF16の半分に削減された。スケーリングされた行列乗算を含むFP8 (Float8) 対応演算がCUDA (クーダ) /CPU (シーピーユー) と同様に利用可能となる。 -
言語モデルデコーディングの高速化: 特にMoE (Mixture-of-Experts) モデルはPyTorch (パイソン) 2.14と比較して5〜6.5倍の速度向上を実現した。M3 Ultra上では、Qwen3.6-35B-A3Bモデルが9.4トークン/秒から61.3トークン/秒に、LFM2.5-8B-A1Bモデルが23.6トークン/秒から123.6トークン/秒に向上した。これは、ネイティブの
grouped matmul、GPU (ジーピーユー) -CPU (シーピーユー) 同期の削減、高速なtop-kルーティングによるもの。単一行の線形層は専用の行列-ベクトルカーネルを使用し、ボキャブラリに対するsoftmax(ソフトマックス) 演算は約8倍高速化された。 -
線形代数演算の強化:
complex64(複素数64ビット) のLU (エルユー) 分解、LU (エルユー) 求解、三角行列求解がMPS (Metal Performance Shaders) 上で実行可能になり、これらの演算に基づく操作や勾配が利用できるようになった。また、4×4までのFP32行列のバッチ処理による逆行列計算も、単一のMetal (メタル) カーネルで高速化されている。 -
オーディオ・ビデオ・トレーニングワークロードの改善: 畳み込み、パディング、ドロップアウト、補間逆伝播、削減の経路が高速化された。Wan2.2のビデオVAE (変分オートエンコーダ) デコード時のメモリピークは、以前の270GiB (ギガバイト) から約8GiB (ギガバイト) に大幅に削減。Qwen-Image-2.1の画像編集におけるVAE (変分オートエンコーダ) エンコーダの問題も修正され、エンコード-デコード往復でCPU (シーピーユー) と同等の29.95dB (デシベル) PSNR (ピーク信号対雑音比) を達成した。
-
Python (パイソン) からの制御機能強化: パブリックなMPS (Metal Performance Shaders) ストリームと、より信頼性の高いイベントタイミングが提供される。
PyTorch (パイソン) 2.15の動作要件はmacOS (マックオーエス) 15以降およびPython (パイソン) 3.11以降。次期バージョンであるPyTorch (パイソン) 2.16では、attention (アテンション) の完全なMetal (メタル) 移行、さらなるMPSGraph (エムピーエスグラフ) からMetal (メタル) への移行、LLM (大規模言語モデル) デコーディングの一層の高速化が計画されている。
参考: Hugging Face Blog (アーカイブ) — 2026年10月20日 09:00 (JST)