Hugging Faceは2026年10月23日(現地時間)、AWS Trainium上でPyTorchモデルの互換性を確認できる「torch-neuronx モデルサポートスペース (torch-neuronx model support Space)」を発表した。このスペースは、Hugging Faceのハブ (Hub) に登録されているTransformersモデルがAWS Trainiumで動作するかどうか、実行に必要なスクリプトやパフォーマンスに関する詳細情報を提供し、ディープラーニングモデルの効率的なデプロイを支援する。
torch-neuronx モデルサポートスペースは、AWS Trainium向けのネイティブPyTorchバックエンドであるtorch-neuronxパッケージを利用し、Hugging Face Hub上の人気モデルのサポート状況を示す。ユーザーはスペース上でモデルを検索し、修正なしでAWS Trainiumで動作するかどうか、シャーディングされるAWS Trainiumコアの数、実行ウォールタイム、ピークデバイスメモリなどの情報を確認できる。また、Neuron コンパイラ (Neuron compiler) (neuronx-cc)とTransformersのバージョンを選択して検証することも可能である。
現在、スペースでテストされているのはTransformersモデルに限定され、テキスト生成 (text-generation) および画像テキスト間変換 (image-text-to-text) モデルが対象となっている。Hugging Faceは、diffusers、sentence transformers、およびその他のTransformersタスクに拡大する計画であると、今後Diffusers (diffusers) やSentence Transformers (sentence transformers) などの他のTransformersタスクにも対象を拡大する計画を示している。
モデルの実行手順はスペース内で提示されており、trn2インスタンス上で動作するAWS Neuron Deep Learning Container環境でのインストールパッケージとrun.pyスクリプトが含まれる。モデルのグラフコンパイルは、公開されているNEFFキャッシュバケットからコピーすることでスキップ可能である。テストはtrn2インスタンス上で実行され、モデルはAWS Trainiumコアにシャーディングされる。結果はaws-neuron/torch-neuronx-model-support公開データセットとして提供され、Parquetファイル形式で直接クエリできる。
参考: Hugging Face Blog — 2026年10月23日 14:58 (JST)
原文ハイライト"We plan to expand to diffusers, sentence transformers, and other transformers tasks"