マフディ・サルマニ (Mahdi Salmani) 氏らは2026年10月22日(現地時間)、推論モデルにおける「思考プルーニング」のための新たな手順を導入した論文を発表した。同論文「Direct Pass@$k$ Optimization for Thought Pruning: Balancing Quality and Diversity in Test-Time Reasoning」は、候補解の品質と多様性のトレードオフを直接最適化することを目的としている。これにより、計算コストを抑えつつ、より正確な最終解を得る確率を高める。
推論モデルにおけるテスト時スケーリングは、多数の候補解を生成することで正しい解を見つける主要な推論戦略として登場している。しかし、全ての候補解を完了まで実行することは計算負荷が高い。このため、最近の研究では、短いプレフィックス生成後に候補プールをプルーニングし、生き残った候補にのみ計算資源を投入する手法が用いられている。
既存のプルーニング戦略は、主に「品質ベース」と「多様性ベース」の2つに大別される。品質ベースの手法は部分解にスコアを割り当て、最終的に誤った解につながると予測されるものを排除する。一方、多様性ベースの手法は異なる推論経路をたどる部分解を選択し、結果として異なる最終解をカバーする可能性を高める。これら二つの目標の間の緊張関係は、探索と活用という課題に相当するが、これまでのプルーニング研究ではこのトレードオフが直接的に扱われることは少なかった。
今回発表された研究では、選択された解プールに対するpass@kを最適化することで、このトレードオフに直接対処するプルーニング手順を提案している。この目的関数は、部分解が完了した際に少なくとも1つが正しい解答を導く確率を最大化するようにプールを選択する。これにより、高品質な部分解を評価しつつ、それらの冗長性を排除するため、品質と多様性が単独のアドホックな設計選択によらず、基準自体によって自然にバランスされる。8つのオープンウェイト推論モデルを用いた評価では、既存の品質ベースおよび多様性ベースのプルーニング戦略を上回る性能を示し、特に中程度の数の部分解を維持する場合に、その有効性が顕著であるとしている。
参考: arXiv cs.AI (アーカイブ) — 2026年10月23日 02:59 (JST)
原文ハイライト"quality and diversity are naturally balanced by the criterion itself"