ゼユ・レオ・リウ氏ら、オンポリシー蒸留の計算効率をグループ相対方策最適化と比較
ゼユ・レオ・リウ氏らは11月5日(現地時間)、arXiv cs.LGを通じて、機械学習におけるオンポリシー蒸留 (On-Policy Distillation、OPD) の計算効率に関する研究結果を発表した。この研究は、OPDとグループ相対方策最適化 (Group Relative Policy Optimization、GRPO) を体系的に比較したもので、教師モデルの選択がOPDの浮動小数点演算回数 (FLOPs) あたりの精度に大きく影響することを明確に示した。