トゥギャザーAI (Together AI)は7月15日(現地時間)、Together GPU Clusters向けに、信頼性と運用制御を大幅に強化する一連の新機能を発表した。この更新は、AIモデルの大規模なトレーニングおよび推論ワークロードの安定稼働と効率的な管理を支援するもので、プラットフォームの健全性向上と運用制御の最適化を目的としている。本番環境でミッションクリティカルなAIワークロードを運用するエンジニアやアーキテクトにとって、パフォーマンスと信頼性の向上に繋がる重要な内容となる。
プラットフォームの健全性向上に向けた更新として、Together GPU Clustersにはパッシブヘルスチェック機能が導入された。この機能は、クラスター内の各ノードにおけるワークロード状況、ログ、各種メトリクスをリアルタイムで継続的に監視する。これにより、GPU障害、熱による性能制限、Xidエラーなど、実行中のジョブに影響を及ぼす可能性のある異常を迅速に検出する。問題が検出された際には、自動ノード修復機能と連携し、システムが再起動、再プロビジョニング、フェイルオーバー、ノード削除といった修復アクションを推奨。オペレーターの承認を得てこれらのアクションが実行され、クラスター全体の安定稼働を維持する。
さらに、Slurm on Kubernetesスタックが全面的に再構築され、「Slinky 1.0」として提供が開始された。この新しいスタックは、ワーカーデーモンの自己修復能力、ゾンビプロセスの自動回収、ジョブアカウンティングの永続化、信頼性の高いプロセスcleanupメカニズムを実現する。GPUの状態をより正確に反映することで、リソース管理の精度も向上する。既存のSlurmクラスターを利用するユーザーは、定められたメンテナンス期間中に、追加費用なしでこの最新スタックへ移行することが可能だ。
運用制御の強化では、新しいクラスター詳細ビューが導入された。このビューは、ノードの健全性状態、GPUノード全体の利用率、メモリ使用量、ネットワーク帯域幅など、主要なライブ使用状況メトリクスを一覧で表示し、オペレーターがクラスターの状態を一目で把握できるように設計されている。このインターフェースには、ノードの状態遷移イベントのタイムラインも含まれており、過去のイベント履歴を追跡できる。加えて、クラスター設定情報として、リージョン、GPUタイプ、ドライバーバージョン、ネットワーク構成、OSイメージ、課金レートといった詳細情報も集約して提供される。
また、外部OIDC (OpenID Connect)のサポートと、スタートアップスクリプトの導入も行われた。これにより、ユーザーは既存のIDプロバイダーを活用してセキュアな認証を実現できると同時に、クラスター起動時にカスタムスクリプトを実行することで、より柔軟な環境設定と自動化が可能となる。
これらの機能強化は、本番環境でAIモデルの開発・運用に携わるMLエンジニアやインフラアーキテクトにとって、GPUクラスターの選定および運用における新たな評価軸を提供する。特に、Slinky 1.0への移行は、Slurm環境における予測不能な問題からの回復力とリソース利用効率を向上させる。大規模なAIワークロードを安定稼働させたい企業にとって、考慮すべき点となる。パッシブヘルスチェックや詳細ビューによる可視化は、トラブルシューティング時間の短縮と運用負荷の軽減に直結し、開発サイクルの加速やコスト最適化に貢献する。Together AIは、高信頼性と運用制御の深化を強みとしている。特に、ミッションクリティカルなAI推論や継続的なトレーニングが求められるシナリオにおいて、この強化が利点となり得る。インフラ選定においては、GPUリソースの量に加え、運用面での包括的なサポート体制も、長期的なAI投資対効果を最大化する重要な要素となる。
参考: Together AI Blog — 2026年7月15日 09:00 (JST)
原文ハイライト"Reliability and control for production GPU clusters"