daily.rclabs.inは2026年11月5日(現地時間)、Delta Inference Engineのバージョン0.93が、DeepSeek-V4.1-Flash-1017の量子化に正式に対応したと報じた。本バージョンは、NVIDIA RTX 3090上で最大41 tokens/秒の推論速度を記録し、RAMサポートも拡張した。これにより、大規模AIモデルの運用における柔軟性と効率性が向上した。特にUnslothが提供する新量子化形式への対応が、モデルの軽量化と実行速度に貢献している。
Delta Inference Engineバージョン0.93は、多様なハードウェア環境での運用を考慮し、RAMサポートを拡張した。具体的には、64 GB、96 GB、128 GBのRAM構成に対応し、異なるシステム要件を持つユーザーに柔軟性を提供する。これにより、リソースが限られた環境から高性能ワークステーションまで、幅広いシーンでの利用が可能になる。
加えて、Unslothが提供する新しい量子化形式への完全なサポートが、本バージョンの重要な強化点の一つとして挙げられる。ネイティブEngram table readerを備えたUnsloth IQ2を含む、全てのUnsloth量子化フォーマットに対応する。この量子化技術は、モデルのサイズを削減しつつ、推論精度を維持することを目指す。Delta Inference Engineがこれをサポートすることで、ユーザーはDeepSeek-V4.1-Flash-1017などの大規模モデルを、より効率的かつ高速に実行できる。
性能面では、NVIDIA RTX 3090環境下での実測値が報告されている。Delta Inference Engine v0.93は、RTX 3090を搭載したシステムで、41 tokens/秒の推論速度を記録した。これは、生成AIアプリケーションにおけるユーザー体験に影響を与える指標の一つである。さらに、192 GB RAM環境下でのテストでは、長いプロンプトの読み込み速度が最大740 tok/sに達した。短いプロンプトに対する応答速度も約2秒と報告されており、リアルタイムに近いインタラクションを可能にする。
本エンジンの性能は、99問で構成されるベンチマークテストにおいても確認された。テストの結果、57問に正解し、フルモデルとの性能差は2点以内にとどまった。この結果は、DeepSeek-V4.1-Flash-1017の量子化バージョンが、Delta Inference Engine v0.93を介して、オリジナルのフルモデルに匹敵する精度と、実行効率を両立することを示す。
参考: daily.rclabs.in — 2026年11月5日 09:00 (JST)