LongZero、外部データなしでLLM長文推論能力を強化
Zhennan Wan氏とJianfei Chen氏らの研究者は10月21日(現地時間)、大規模言語モデル (LLM) の長文コンテキスト推論能力を外部データなしで強化する手法「LongZero」を提案した。この革新的なアプローチは、モデル自身がタスクを生成するゼロデータからの強化学習（RL）を基盤とし、従来の短文コンテキストに特化した手法が抱える課題を克服することを目指す。彼らは、同手法がLLMの性能向上における実現可能で有望な道筋を示すと結論付けている。