Lizhe Fang氏らは2026年7月21日(現地時間)、「arXiv cs.CL」において、長文コンテキストを持つ大規模言語モデル（LLM）が推論時に見せる「反復的なコピー」の課題を指摘し、これを克服する新たな手法「GEAR（Grounding Evidence-Aware Reward）」を発表しました。モデルが入力テキストを無差別にコピーする現象が、特に長いコンテキストで顕著になることを示し、その原因が不十分な根拠付けにあると分析しています。
この研究では、LLMがプロンプトから関連性の低い情報をコピーする「反復的なコピー」が、長文コンテキスト設定における複雑なタスクのパフォーマンスを低下させる主要な失敗モードであることを明らかにしました。モデルが主要な証拠に焦点を当てられない場合、誤った回答をする可能性が大幅に高まると指摘されています。
GEARは、この診断に基づき提案された報酬整形手法です。GEARは、正答率の信号に加えて、主要な証拠との重複に対しては根拠付け報酬を与え、無関係な妨害コンテキストとの重複にはペナルティを課すことで、モデルの根拠付け能力を強化します。自然言語データでGEARを機能させるため、任意の文書から証拠アノテーション付き学習データを構築する自動パイプラインが開発されました。
GEARは複数のモデルスケールとベンチマークで検証され、標準的な強化学習（RL）と比較して、平均で最大+4.6ポイントの改善を示しました。この改善は特に長いコンテキストにおいてより顕著であり、反復的なコピーと思考長の削減にも寄与しました。これらの結果は、複雑な推論において、関連する証拠に正確に根拠を置く能力が不可欠であることを示唆しています。
参考: arXiv cs.CL (アーカイブ) — 2026年7月22日 02:59 (JST)