【速報】NVIDIA、AIファクトリーの投資対効果最大化を強調
NVIDIAは2026年10月1日(現地時間)付けのブログで、AIファクトリーの投資対効果を最大化するための設計思想について発表した。同社は、1メガワットあたり約6000万ドルの費用がかかるAIファクトリーにおいて、投資収益率を確保するためには「生産性」「耐久性」「代替性」の3要素が重要であると指摘。NVIDIA AIファクトリーがこれら3要素を最大化するよう設計されていると説明した。
Tag
#CUDA
7 件の関連記事
arXiv、LLM活用したCUDAカーネル最適化システム「Kernel Forge」を発表
arXiv cs.AIは2026年6月2日(現地時間)、「Kernel Forge: An Agent Harness for LLM-based Generation and Optimization of CUDA Kernels」と題する研究を発表した。この研究は、大規模言語モデル (LLM) を利用してCUDAカーネルの生成と最適化を行うエージェントハーネスシステム「Kernel Forge」を提示している。これにより、機械学習モデルのランタイムにおけるGPUコード最適化の労力軽減を目指す。
NVIDIA、推論ソフトでAIトークンコストを最大5分の1に削減
エヌビディア (NVIDIA) は6月30日(現地時間)、同社の推論ソフトウェアスタックにより、AIインフラにおけるトークンコストを大幅に削減したと発表した。特に、NVIDIAのBlackwellプラットフォーム上でDeepSeek V4モデルのトークンあたりのコストが、約1ヶ月で最大5分の1に削減されたことを明らかにした。AIプロジェクトが本番環境へ移行する中で、インフラ意思決定の焦点がチップのピーク性能からトークンあたりのコストへと変化していると指摘されている。
NVIDIA、ロボット開発のIsaac ROSを強化：AI統合とモジュール化で自律システム構築を加速
NVIDIAは2026年6月30日(現地時間)、ロボット開発を加速させる「Isaac ROS (アイザック ロス)」の最新進化を発表した。このオープンソースフレームワークは、CUDA-accelerated librariesとAIモデルを提供し、開発者が自律移動ロボット、操作システム、ヒューマノイドといった多様なロボットアプリケーションを効率的に構築できるよう支援する。NVIDIA Jetson platformやNVIDIA CUDA librariesを活用したソフトウェアとして、そのフルスタックサポートとモジュール化が注目される。
トゥギャザーAI、LLM向けマルチGPUカーネル生成の性能評価を公開
トゥギャザーAI (Together AI) は6月23日(現地時間)、大規模言語モデル (LLM) によるマルチGPUクーダ (CUDA) カーネル生成能力を評価するベンチマーク「パラレルカーネルベンチ (ParallelKernelBench: PKB)」の結果を公表しました。評価により、最先端のLLMが既存のベースライン性能を上回る高速なマルチGPUカーネルを生成する能力には、依然として課題があることが判明しました。現行モデルは本番環境でのボトルネックとなる通信性能の改善に対し、限定的な成果しか出せていません。
【速報】Together AI、世界最速の音声テキスト変換スタックを構築
Together AIは2026年5月28日(現地時間)、世界最速の音声テキスト変換スタックを構築したことを発表した。同社は、自動音声認識 (ASR) をGPU推論問題だけでなく、フルパスのシステム問題として扱うことで、この成果を達成した。その性能はアーティフィシャル・アナリシス (Artificial Analysis) によって評価されている。
Hugging FaceがLLM推論効率化の新手法発表 非同期バッチ処理でCPU・GPUを並列化
Hugging Faceは2026年5月14日(現地時間)、大規模言語モデル (LLM) の推論効率を大幅に高める非同期バッチ処理の技術詳細を公開した。従来の同期処理ではCPUとGPUが交互に動作するため、GPUがアイドル状態となる時間が推論実行時間の約24%を占め、これが大きな課題と指摘されてきた。今回の新手法は、このアイドル時間を解消し、GPUの稼働率を最大化することで、推論時間の短縮とリソース利用効率の向上を目指す。