STEPQuant、デルタルール再帰状態の量子化エラーを効率管理
arXiv cs.CLは2026年9月29日(現地時間)、ビンチェン・ヤオ氏らが線形アテンションの再帰状態における量子化エラーを効率的に管理する新フレームワーク「STEPQuant」に関する論文を発表した。本研究は、肥大化するKVキャッシュに伴う並行サービス提供時のメモリボトルネックを軽減しつつ、モデルの推論精度を維持することを目指すもので、その実用性が注目される。
Tag
#Qwen3-8-27B
2 件の関連記事
Tag
2 件の関連記事
arXiv cs.CLは2026年9月29日(現地時間)、ビンチェン・ヤオ氏らが線形アテンションの再帰状態における量子化エラーを効率的に管理する新フレームワーク「STEPQuant」に関する論文を発表した。本研究は、肥大化するKVキャッシュに伴う並行サービス提供時のメモリボトルネックを軽減しつつ、モデルの推論精度を維持することを目指すもので、その実用性が注目される。
アリババ (Alibaba) は2026年8月17日(現地時間)、Qwen3.8シリーズの最新オープンウェイトモデルとして「Qwen3.8-27B」を発表した。同モデルはHugging Faceの最も評価の高いオープンソースモデルチャートでトップ5にランクインしている。同時に、アリババは旗艦モデルである「Qwen3.8-2.4T-A95B」の重みをHugging FaceとModelScopeで公開し、世界中の開発者や企業が自由にダウンロードできるようにした。この旗艦モデルは、Qwen-Maxクラスのモデルとして初めてオープンリリースされた。