Spool、ハイブリッドVLMの低遅延推論フレームワーク発表
arXiv cs.CVが2026年11月17日(現地時間)付けで報じたところによると、ルイ・ニン (Rui Ning)氏らの研究チームは、ハイブリッドVision-Language Models (VLMs)向けに低遅延ストリーミング推論を実現するフレームワーク「Spool」を発表した。視覚支援エージェントやロボット工学などで求められる、最近のビデオコンテンツへの迅速な応答における課題を解決する。既存モデルで高コストだったスライディングウィンドウ維持を効率化し、time-to-first-tokenのp95値を幾何平均で6.6倍削減、精度を平均2.3パーセンテージポイント向上させた。