エヌビディア (NVIDIA) は2026年11月8日(現地時間)、韓国の主要オープンモデルに対応するDynamo最適化デプロイレシピを公開した。このレシピは、SK Telecomの「A.X K2」、LG AI Researchの「K-EXAONE 2.0」、Upstageの「Solar Open 2」、Motif Technologiesの「Motif-3」といったモデルを対象としている。データセンター規模での推論性能を最大化し、開発者がこれらのモデルを迅速に本番環境へ導入することを支援する。
エヌビディア Dynamo (Dynamo) は、データセンター規模のマルチノード環境でモデルを効率的にデプロイするために構築された、オープンソースの分散推論サービスフレームワークである。大規模言語モデル (LLM) はその複雑さと巨大なリソース要求から、単一のGPUの容量を超えることが多く、複数のGPUに分割してデプロイする必要が生じる。その際、推論リクエストのルーティング、負荷分散、そしてGPU間のデータ通信を慎重に調整しなければ、性能維持は困難となる。
このDynamoは、そうした課題を効率的に処理し、推論性能を最大化するよう設計されている。今回公開された最適化レシピは、NVIDIA B200 GPUs (GPUs) 向けに特に調整されており、対象モデルにおいて最大2倍の性能向上を実現するとされる。この性能向上により、開発者は韓国の主要オープンモデルをより迅速に本番環境に導入し、その展開を加速させることが可能となる。
このレシピは、モデル固有の最適化設定と分散推論のための設定を含んでいる。具体的には、エヌビディア Triton Inference Serverとの連携機能や、LLMの推論性能を最適化するエヌビディア TensorRT-LLMライブラリとの統合が図られている。これらの技術的要素が組み合わされることで、スループットの向上、レイテンシの低減、そして全体的な運用コストの削減に寄与する。
DynamoはPythonベースのフレームワークであり、モデルの並列化、推論リクエストのバッチ処理、ロードバランシングといった機能を統合している。これにより、モデルのデプロイとスケーリングが容易になり、耐障害性も向上する。エヌビディアは、今回の最適化レシピを通じて、韓国のAIエコシステムにおけるオープンモデルの活用をさらに促進し、その技術革新を支援する方針を示している。
参考: NVIDIA Blog (AI) (アーカイブ) — 2026年11月9日 14:00 (JST)