【速報】Together AI、世界最速の音声テキスト変換スタックを構築
Together AIは2026年5月28日(現地時間)、世界最速の音声テキスト変換スタックを構築したことを発表した。同社は、自動音声認識 (ASR) をGPU推論問題だけでなく、フルパスのシステム問題として扱うことで、この成果を達成した。その性能はアーティフィシャル・アナリシス (Artificial Analysis) によって評価されている。
Tag
#CUDA
2 件の関連記事
Tag
2 件の関連記事
Together AIは2026年5月28日(現地時間)、世界最速の音声テキスト変換スタックを構築したことを発表した。同社は、自動音声認識 (ASR) をGPU推論問題だけでなく、フルパスのシステム問題として扱うことで、この成果を達成した。その性能はアーティフィシャル・アナリシス (Artificial Analysis) によって評価されている。
Hugging Faceは2026年5月14日(現地時間)、大規模言語モデル (LLM) の推論効率を大幅に高める非同期バッチ処理の技術詳細を公開した。従来の同期処理ではCPUとGPUが交互に動作するため、GPUがアイドル状態となる時間が推論実行時間の約24%を占め、これが大きな課題と指摘されてきた。今回の新手法は、このアイドル時間を解消し、GPUの稼働率を最大化することで、推論時間の短縮とリソース利用効率の向上を目指す。