#reasoning

大規模言語モデルの推論バグ診断手法「ウッドペッカー蒸留」発表

Dayu Wang氏は5月27日(現地時間)、Large language models (大規模言語モデル) の推論タスクにおける局所的な誤りを診断・修正する新しい訓練フレームワーク「ウッドペッカー蒸留 (Woodpecker Distillation)」に関する論文をarXiv cs.AIに提出した。同手法は、弱いモデルの介入を通じて強いモデルの性能を向上させることを目指すもので、数学的推論ベンチマークでの効果が確認された。