Hugging Faceは2026年10月18日(現地時間)、PyTorch向けに新しいネイティブバックエンド「TorchNeuron」を発表した。これは、AWSの機械学習アクセラレーターであるトレーニアム (Trainium) 上でのモデル実行を簡素化する。TorchNeuronはeager mode、torch.compile、ネイティブ分散APIをサポートし、Hugging Faceの既存ライブラリでの直接利用を可能にする。
TorchNeuronは、これまでPyTorch XLAに依存していた「optimum-neuron」ライブラリに代わるものとして提供される。optimum-neuronがコンパイラ的な思考や静的シェイプの制約を持っていたのに対し、TorchNeuronはPyTorchに直接統合され、トレーニアムをネイティブデバイスとして扱う。これにより、Transformers、Diffusers、Accelerate、PEFT、TRLといったHugging Faceの主要ライブラリは、他のアクセラレーターと同じクラスとスクリプトを用いてトレーニアム上で直接実行できるようになる。Hugging Faceは、Neuronユーザーに対し、今後はこれらのライブラリを直接使用することを推奨している。
TorchNeuronの導入により、Transformersにおけるテキスト生成モデルのサポートアーキテクチャは、Optimum Neuron v0.4.5の46%から89%に大幅に向上した。ユーザーはコード内でdevice_map=neuron引数を渡すだけでモデルをNeuronデバイスに移動できる。学習に関しても、NeuronがネイティブなPyTorchデバイスとなったため、専用のトレーナーやNeuron固有のモデルコードは不要になった。標準的なTRLのファインチューニングスクリプトが、わずかなNeuron固有の設定でトレーニアム上で実行可能となる。torch.compileもトレーニアムインスタンス上でデバイスを自動検出し、Neuronバックエンドを適用する。
TorchNeuronは2026年10月20日よりパブリックベータとして提供を開始し、pip install torch-neuronxコマンドでインストールできる。
参考: Hugging Face Blog (アーカイブ) — 2026年10月19日 09:00 (JST)
原文ハイライト"TorchNeuron provides a new native backend for PyTorch on AWS Trainium."