#AUDITPLAN

AUDITPLAN、AIモデルの安全性監査強化とアライメント改善

学術論文リポジトリarXiv cs.CRは9月16日(現地時間)付けで公開された論文にて、大規模言語モデルの安全性アライメントを強化する新アプローチ「AUDITPLAN」を提案した。この手法は、モデルがコンパクトな構造化された安全計画を生成し、その計画に基づいて回答することで、回答のみを評価する従来の安全性チューニングパイプラインが抱える課題の解決を目指す。