Tag
12 件の関連記事
Together AIとY Combinator (YC) は2026年7月20日(現地時間)、YCのAIネイティブスタートアップ向けに初の専用GPUクラスターを共同で立ち上げたと発表した。この戦略的提携は、AIアプリケーション開発に不可欠な高性能コンピューティングリソースへのアクセスを大幅に改善することを目的としている。スタートアップは高額な先行投資や長期契約に縛られることなく、必要に応じてGPUを柔軟に利用できる環境を手に入れる。クラスターは既に稼働を開始しており、短期間での柔軟なGPU利用を通じて、AI開発サイクルの加速に貢献する。
arXiv cs.LGは7月17日(現地時間)、Mixture-of-Experts (MoE) 大規模言語モデル (LLM) の推論効率を大幅に改善する新手法「PagedWeight」を発表した。同技術は、MoE LLM運用における主要課題である、増大するモデルウェイトとKey-Value (KV) キャッシュのGPUメモリ要件に対し、ランタイムでの動的かつ品質を意識したウェイト量子化で対処する。これにより、エキスパートウェイトの精度を維持しつつKVキャッシュサイズを最適化し、全体的なリソース効率を大幅に改善。特に、既存手法と比較してGPUメモリを最大72.0%削減し、スループットを最大1.94倍向上させることが可能と報告されている。
Together AI（トゥゲザーAI）は2026年7月16日(現地時間)、同社ブログで、機械学習推論サービスにおける稼働時間保証（SLA）の信頼性指標、特に「99.9%アップタイム」の具体的な要件と、それを実現するためのアーキテクチャについて詳細を解説しました。同社は、ノードレベルからリージョンレベルまでの幅広い障害に対するサービス継続性について言及しています。
Hugging Face (ハギングフェイス) は7月7日(現地時間)、Amazon SageMaker Studio (アマゾン セージメーカー スタジオ) とのディープリンク連携を発表した。この統合により、開発者はHugging FaceのモデルページからワンクリックでAmazon SageMaker Studioに直接アクセスし、モデルのファインチューニングやデプロイを即座に開始できるようになる。発見からエンタープライズデプロイまでのプロセスを効率化するのが狙いだ。
Microsoftは2026年7月7日(現地時間)、年次開発者会議Microsoft Build 2026において、Foundry Managed Compute上でHugging Faceモデルの提供を開始すると発表した。これにより、Hugging Faceエコシステムから厳選されたオープンウェイトモデルのカタログが、Foundry Managed Computeからワンクリックでデプロイ可能になる。モデルのウェイトはAzureにプリステージされ、ランタイムはMicrosoftが構築・スキャンする。
Together AIは2026年6月24日(現地時間)、GPUクラスター向けにパッシブヘルスチェックと自動ノード修復機能の提供を開始した。この新機能により、ノードレベルの問題が検出された際にシステムが修復推奨を生成し、ユーザーが承認することで、ノードの隔離、ドレイン、修復、再結合プロセスを自動で処理する。また、同日にはファインチューニングジョブの推定コストをAPI経由で取得できる新エンドポイント「POST /fine-tunes/estimate-price」も追加された。
トゥギャザーAI (Together AI) は6月23日(現地時間)、大規模言語モデル (LLM) によるマルチGPUクーダ (CUDA) カーネル生成能力を評価するベンチマーク「パラレルカーネルベンチ (ParallelKernelBench: PKB)」の結果を公表しました。評価により、最先端のLLMが既存のベースライン性能を上回る高速なマルチGPUカーネルを生成する能力には、依然として課題があることが判明しました。現行モデルは本番環境でのボトルネックとなる通信性能の改善に対し、限定的な成果しか出せていません。
arXiv cs.AIは2026年4月20日(現地時間)、大規模言語モデル (LLM) の推論過程における冗長性に関する研究結果を発表した。Zhiyuan Zhai氏らによるこの研究は、LLMが複雑な問題解決で生成する長い「思考の連鎖」がレイテンシー、GPU時間、エネルギーに多大なコストをもたらす現状に着目。推論過程で実際にどれほどの熟慮が必要かを大規模に測定し、その根本原因を解明することを目的としている。
Hugging Face Blogが2026年5月24日(現地時間)付けで報じたところによると、PyTorchのプロファイリングツール「torch.profiler」に関する新シリーズ「Profiling in PyTorch」の第一弾記事を公開しました。本シリーズは、複雑なプロファイラートレースの読み方を段階的に習得し、モデルの最適化に役立てることを目的としています。初回の記事では、最も基本的な行列乗算とバイアス加算の操作を例に、プロファイラーの出力解読法を解説しています。
arXiv cs.AIは2026年5月12日(UTC)付けで、文書AI（Document AI）システムを本番環境で運用化するためのマイクロサービスアーキテクチャに関する研究論文を発表した。同論文は、文書の分類、光学文字認識（OCR）、大規模言語モデル（LLM）を用いた構造化フィールド抽出など、複数のモデルパイプラインをカプセル化する設計を詳述している。これは、学術研究で生まれた先進技術と、実稼働環境での効率的かつ堅牢な実装との間のギャップを埋めることを主目的としている。
Hugging Faceは2026年5月14日(現地時間)、大規模言語モデル (LLM) の推論効率を大幅に高める非同期バッチ処理の技術詳細を公開した。従来の同期処理ではCPUとGPUが交互に動作するため、GPUがアイドル状態となる時間が推論実行時間の約24%を占め、これが大きな課題と指摘されてきた。今回の新手法は、このアイドル時間を解消し、GPUの稼働率を最大化することで、推論時間の短縮とリソース利用効率の向上を目指す。
AIチップメーカーのCerebras Systemsは2026年5月11日(現地時間)、新規株式公開 (IPO) における発行株数と価格を引き上げる見込みだと報じられた。AI向け半導体需要が急増するなか、同社株への強い需要が背景にある。AIの演算処理はこれまでグラフィックス処理ユニット (GPU) が中心だったが、将来的には訓練から推論まで、より多様なハードウェア構成が求められるとの見方が示されている。