huggingface.coは2026年11月4日(現地時間)、論文「Why Pay for Long Reasoning When Rewrite Do Trick? Causal Effects of Reasoning History Compaction on Future Generation and Agent Cost」を公開した。この研究では、AIモデルの過去の推論(reasoning)をコンパクトな状態に書き換えることで、再トレーニングなしに新たな推論の長さを短縮し、エージェントの総コスト削減に貢献する可能性を示唆している。
論文によると、コーディングエージェントを対象とした事例研究において、外部圧縮を用いたMiniMax M3が総コストを34%削減し、モデルリクエスト時間を59%短縮した。この数値には、書き換えにかかるオーバーヘッドも含まれる。さらに、2026年7月時点で利用可能なすべての「frontier」オープンモデル(DeepSeek、Nemotron、GLM、Kimi、MiniMax)が、平均してより短い推論を生成したことが明らかになった。
この研究は、推論履歴をコンパクトにすることが、将来の推論トークンの使用量を減らす効果的な方法の一つであることを特定している。論文は、ほとんどの既存のオープンウェイト推論モデルがすでにこの機能を備えている可能性が高いと指摘しており、今後の世代のモデルに対して、より少ないトークンで有用な分析を表現し、問題解決能力を維持するよう奨励すべきだと提言している。また、この圧縮器は、モデル自体であるか、またはより弱いモデルである可能性もあるとしている。
参考: huggingface.co — 2026年11月5日 13:28 (JST)