arXiv、強化学習のCA-MOPDを公開 能力認識で性能向上
arXiv cs.LGは10月18日(現地時間)、強化学習（Reinforcement Learning）における新しい知識蒸留手法「ケイパビリティ認識型マルチティーチャー・オンポリシー蒸留 (Capability-Aware Multi-Teacher On-Policy Distillation、CA-MOPD)」に関する論文を公開した。本手法は、複数の専門家（教師）からの知識を共有の学生モデルに統合する際、学生が既に学習した能力を考慮する点が特徴だ。既存のマルチティーチャー・オンポリシー蒸留 (Multi-Teacher On-Policy Distillation、MOPD) が抱える、学生モデルの能力を超過した場合でも過剰な監督が割り当てられる課題を解決。ベンチマークテストでは、既存手法を上回る平均スコアを達成している。