Zichen Baiらの研究チーム、非同期強化学習「Li^2SAO」を提案
Zichen Bai、Yanli Wang、Yang Liuらの研究チームは2026年10月28日(現地時間)、大規模言語モデル(LLMs)の学習効率を改善する新たな非同期強化学習(RL)最適化手法「Li^2SAO(Lifting Light Single-Rollout Asynchronous RL Optimization via Group-Relative Actor-Critic Bootstrapping)」に関する研究論文をarXivで公開した。同手法は、既存の「Single-rollout Asynchronous Optimization(SAO)」における事前学習済み価値モデルへの依存性や、その軽量版である「LiSAO」の学習初期段階における性能課題を克服し、LLMsのより安定した効率的な学習を目指している。