AI21ラボ (AI21 Labs) は2026年10月25日(現地時間)、強化学習 (RL) における報酬ハッキング (reward hacking) を抑制することを目的とした指示追従ベンチマーク「LIFT-Bench」を公開した。このベンチマークは、文書内の各制約を特定のセクションに限定して適用する点で特徴がある。
AI21ラボが発表した「LIFT-Bench」は、AIモデルが与えられた指示にどれだけ正確に従うかを評価するために設計された。特に、文書構造に沿って評価の制約が単一のセクションに絞られる点が、従来の評価方法との違いとされる。
これにより、モデルが文書全体ではなく、より具体的な文脈での指示追従能力を厳密に測定することが可能になる。同社はこのベンチマークを通じて、強化学習のトレーニングにおける報酬ハッキングの問題に対処する方針を示している。
原文ハイライト"an instruction-following benchmark in which every constraint is scoped to one section of a document"
この記事をシェア