arXiv cs.CLは10月16日(現地時間)、Shaoang Li氏らの研究チームが、推論蒸留における画期的な学生条件付けトレース構築手法「レディスト (ReDiST)」に関する研究論文を発表したと明らかにした。この新しいフレームワークは、従来の正解のみの教師信号の限界を超え、学習プロセスの中間コンテンツを重視し、学習者個々のアクセシビリティを考慮に入れることで、より効果的な学習を促進するトレースの構築を目指している。
Shaoang Li氏らは、特定の学生にとって必ずしも効果的な教師信号とはならない従来の推論トレース (reasoning trace)が抱える課題に着目し、学習効果を向上させるトレース構築の研究を進めてきた。
開発された「レディスト (ReDiST)」は、証拠が豊富な推論のための学生条件付けトレース構築・蒸留フレームワークとして提示されている。この手法は、学生自身の試みから開始し、正解のドラフトを提示された証拠と照合して修正を加える。さらに、不完全なドラフトは、検証済み回答から得られる追加の指針によって修復される。このプロセスには、凍結されたstudent-matched readerが関与し、質問、証拠、候補トレースに基づき、回答の回復と検証済み回答の確率を用いて、初期の候補と修正された候補を評価・選別する仕組みが含まれる。
レディストは、選択された目標の蒸留において、推論トレースと最終的な回答の教師信号を、補助的な回答損失と均衡させることを特徴とする。トレースの構築と選択はオフラインで実施され、推論段階では蒸留済みの学生モデルのみが活用される。
質問応答ベンチマークを用いた実験結果では、レディストが「answer-only」や「original-trace」、さらには評価されたトレース選択・書き換えベースラインと比較して、「source-task」と「cross-benchmark」の両方でパフォーマンスを向上させることが示された。教師信号のレシピによっては、ソースベンチマークと転送ベンチマークの間でパフォーマンスの順位が異なる可能性があり、多様な分布においてtrace teaching utilityを評価することの重要性が強調されている。
参考: arXiv cs.CL (アーカイブ) — 2026年10月17日 02:52 (JST)
原文ハイライト"Student-Conditioned Trace Construction for Reasoning Distillation"