言語モデルの「自己内省的監視」を導入、不正挙動の検出精度が向上
アレックス・リン・ワン (Alex Lin Wang)氏らの研究チームは11月17日(現地時間)、言語モデルの予期せぬ挙動を監視する新たな手法「自己内省的監視 (introspective oversight)」を導入した論文をオンラインプレプリントリポジトリarXiv cs.AIで公開した。この手法は、モデル内に補助的なオブザーバー役を訓練することで、報酬ハッキングや欺瞞といった言語モデルの不正な振る舞いを高精度で検証することを可能にする。