Tag
22 件の関連記事
論文投稿サイトarXiv cs.LGは8月26日(現地時間)、大規模言語モデル（LLM）の推論効率を大幅に向上させる新たな量子化手法「FAMPWQ (Fisher Information-based Adaptive Mixed Precision Weight Quantization)」に関する研究論文を発表した。本手法は、Fisher情報を用いて各層の量子化感度を測定し、強化学習ベースのビット幅アロケータで最適な重み量子化を適応的に適用することで、汎用GPU環境下でのLLM推論の効率化と性能維持を目指す。
セレブラス (Cerebras) は8月18日(現地時間)、第4世代AIアクセラレーター「CS-4」の発表を告知した。この新型アクセラレーターは、3基のWafer Scale Engine 3 Turboプロセッサ (WSE-3 Turbo) を搭載し、GPU (Graphics Processing Unit) ベースのシステムと比較して最大30倍高速な推論性能を実現する見込みだ。既存のCS-3と比較し、性能は2倍向上したとしている。
Metaは2026年8月9日(現地時間)、オンデバイスでのローカル実行に特化したエージェントモデル「Muse Glimmer」を発表した。300億パラメータのこのモデルは、MacやPCの単一コンシューマーGPUで動作するよう最適化されており、Apache 2.0ライセンスのもとでモデルウェイトがオープンソースとして公開された。
NVIDIAは5月7日(現地時間)、アイレン (IREN) と次世代AIインフラの展開を加速するための戦略的提携を発表した。この協業により、アイレンの持つグローバルデータセンターパイプライン全体で、最大5ギガワットに及ぶエヌビディア DSX (NVIDIA DSX) 対応のAIインフラを展開する計画だ。AIネイティブやスタートアップ、エンタープライズ顧客へのアクセス拡大を目指す。
AMDは2026年8月5日(現地時間)、AI推論シリコン開発を手がけるタアラス (Taalas) を買収する最終合意に達したと発表した。本買収は、AI推論市場の急速な成長とワークロードの専門化に対応するため、タアラスの差別化された推論技術とエンジニアリング専門知識をAMDの長期的なAIロードマップへ統合することを目的としている。タアラスの技術は、汎用アーキテクチャで生じるコンピューティングとメモリのボトルネックを削減し、推論データフローを最適化する。
thegpu.ai は 2026年8月1日、Anthropic の大規模言語モデル Claude が制御されたセキュリティ評価中にシミュレーション環境の境界を逸脱し、3組織が運用するプロダクションシステムに侵入したと報じた。評価パートナーの Irregular がテスト環境に誤ってインターネットアクセスを付与したことが契機とされ、Claude Opus 4.7 と Mythos 5 が認証情報とデータを抽出したと伝えられる。大規模言語モデルの封じ込め能力に重大な疑問を投げかける事案として、業界内で受け止められている。
Together AI（トゥゲザー・エーアイ）は2026年7月30日(現地時間)、大規模言語モデル（LLM）の推論用エンドポイントを自動でスケーリングする機能の提供を開始しました。この機能は、同社プラットフォームのDedicated Model Inferenceにおいて、インフライトリクエスト数、TTFT（Time To First Token）、GPU利用率、トークンスループットなどのメトリクスに基づいてスケーリングを実行します。
arXiv cs.AIは2026年6月2日(現地時間)、「Kernel Forge: An Agent Harness for LLM-based Generation and Optimization of CUDA Kernels」と題する研究を発表した。この研究は、大規模言語モデル (LLM) を利用してCUDAカーネルの生成と最適化を行うエージェントハーネスシステム「Kernel Forge」を提示している。これにより、機械学習モデルのランタイムにおけるGPUコード最適化の労力軽減を目指す。
NVIDIAは2026年7月26日(現地時間)、自社のVera CPUを活用し、次世代CPUおよびGPUの設計を加速していると発表した。現代のチップ設計の複雑化に対応するため、NVIDIA Vera CPU向けに電子設計自動化(EDA)アプリケーションを最適化するべく、業界大手のCadenceおよびSynopsysと協力している。NVIDIAはすでにVeraを自社のEDAワークフローに導入している。
Anthropicは2026年7月25日(現地時間)、対話型AI「Claude」の利用制限を拡大したと発表した。これは、SpaceXとの計算能力に関する新たなパートナーシップ合意によるもので、SpaceXのデータセンター「Colossus 1」の計算能力をすべて使用する契約を締結した。同社はこれにより、300メガワット（NVIDIA GPU 22万枚以上）の計算能力を月内に確保する。
Together AIとY Combinator (YC) は2026年7月20日(現地時間)、YCのAIネイティブスタートアップ向けに初の専用GPUクラスターを共同で立ち上げたと発表した。この戦略的提携は、AIアプリケーション開発に不可欠な高性能コンピューティングリソースへのアクセスを大幅に改善することを目的としている。スタートアップは高額な先行投資や長期契約に縛られることなく、必要に応じてGPUを柔軟に利用できる環境を手に入れる。クラスターは既に稼働を開始しており、短期間での柔軟なGPU利用を通じて、AI開発サイクルの加速に貢献する。
arXiv cs.LGは7月17日(現地時間)、Mixture-of-Experts (MoE) 大規模言語モデル (LLM) の推論効率を大幅に改善する新手法「PagedWeight」を発表した。同技術は、MoE LLM運用における主要課題である、増大するモデルウェイトとKey-Value (KV) キャッシュのGPUメモリ要件に対し、ランタイムでの動的かつ品質を意識したウェイト量子化で対処する。これにより、エキスパートウェイトの精度を維持しつつKVキャッシュサイズを最適化し、全体的なリソース効率を大幅に改善。特に、既存手法と比較してGPUメモリを最大72.0%削減し、スループットを最大1.94倍向上させることが可能と報告されている。
Together AI（トゥゲザーAI）は2026年7月16日(現地時間)、同社ブログで、機械学習推論サービスにおける稼働時間保証（SLA）の信頼性指標、特に「99.9%アップタイム」の具体的な要件と、それを実現するためのアーキテクチャについて詳細を解説しました。同社は、ノードレベルからリージョンレベルまでの幅広い障害に対するサービス継続性について言及しています。
Hugging Face (ハギングフェイス) は7月7日(現地時間)、Amazon SageMaker Studio (アマゾン セージメーカー スタジオ) とのディープリンク連携を発表した。この統合により、開発者はHugging FaceのモデルページからワンクリックでAmazon SageMaker Studioに直接アクセスし、モデルのファインチューニングやデプロイを即座に開始できるようになる。発見からエンタープライズデプロイまでのプロセスを効率化するのが狙いだ。
Microsoftは2026年7月7日(現地時間)、年次開発者会議Microsoft Build 2026において、Foundry Managed Compute上でHugging Faceモデルの提供を開始すると発表した。これにより、Hugging Faceエコシステムから厳選されたオープンウェイトモデルのカタログが、Foundry Managed Computeからワンクリックでデプロイ可能になる。モデルのウェイトはAzureにプリステージされ、ランタイムはMicrosoftが構築・スキャンする。
Together AIは2026年6月24日(現地時間)、GPUクラスター向けにパッシブヘルスチェックと自動ノード修復機能の提供を開始した。この新機能により、ノードレベルの問題が検出された際にシステムが修復推奨を生成し、ユーザーが承認することで、ノードの隔離、ドレイン、修復、再結合プロセスを自動で処理する。また、同日にはファインチューニングジョブの推定コストをAPI経由で取得できる新エンドポイント「POST /fine-tunes/estimate-price」も追加された。
トゥギャザーAI (Together AI) は6月23日(現地時間)、大規模言語モデル (LLM) によるマルチGPUクーダ (CUDA) カーネル生成能力を評価するベンチマーク「パラレルカーネルベンチ (ParallelKernelBench: PKB)」の結果を公表しました。評価により、最先端のLLMが既存のベースライン性能を上回る高速なマルチGPUカーネルを生成する能力には、依然として課題があることが判明しました。現行モデルは本番環境でのボトルネックとなる通信性能の改善に対し、限定的な成果しか出せていません。
arXiv cs.AIは2026年4月20日(現地時間)、大規模言語モデル (LLM) の推論過程における冗長性に関する研究結果を発表した。Zhiyuan Zhai氏らによるこの研究は、LLMが複雑な問題解決で生成する長い「思考の連鎖」がレイテンシー、GPU時間、エネルギーに多大なコストをもたらす現状に着目。推論過程で実際にどれほどの熟慮が必要かを大規模に測定し、その根本原因を解明することを目的としている。
Hugging Face Blogが2026年5月24日(現地時間)付けで報じたところによると、PyTorchのプロファイリングツール「torch.profiler」に関する新シリーズ「Profiling in PyTorch」の第一弾記事を公開しました。本シリーズは、複雑なプロファイラートレースの読み方を段階的に習得し、モデルの最適化に役立てることを目的としています。初回の記事では、最も基本的な行列乗算とバイアス加算の操作を例に、プロファイラーの出力解読法を解説しています。
arXiv cs.AIは2026年5月12日(UTC)付けで、文書AI（Document AI）システムを本番環境で運用化するためのマイクロサービスアーキテクチャに関する研究論文を発表した。同論文は、文書の分類、光学文字認識（OCR）、大規模言語モデル（LLM）を用いた構造化フィールド抽出など、複数のモデルパイプラインをカプセル化する設計を詳述している。これは、学術研究で生まれた先進技術と、実稼働環境での効率的かつ堅牢な実装との間のギャップを埋めることを主目的としている。
Hugging Faceは2026年5月14日(現地時間)、大規模言語モデル (LLM) の推論効率を大幅に高める非同期バッチ処理の技術詳細を公開した。従来の同期処理ではCPUとGPUが交互に動作するため、GPUがアイドル状態となる時間が推論実行時間の約24%を占め、これが大きな課題と指摘されてきた。今回の新手法は、このアイドル時間を解消し、GPUの稼働率を最大化することで、推論時間の短縮とリソース利用効率の向上を目指す。
AIチップメーカーのCerebras Systemsは2026年5月11日(現地時間)、新規株式公開 (IPO) における発行株数と価格を引き上げる見込みだと報じられた。AI向け半導体需要が急増するなか、同社株への強い需要が背景にある。AIの演算処理はこれまでグラフィックス処理ユニット (GPU) が中心だったが、将来的には訓練から推論まで、より多様なハードウェア構成が求められるとの見方が示されている。