Anthropic、LLM防御の新技術発表 計算コスト減と堅牢性向上
Anthropicは1月9日(現地時間)、大規模言語モデル（LLM）に対する「ユニバーサルジェイルブレイク」攻撃への防御を強化する新技術「Constitutional Classifiers++」の詳細を新たな論文で発表しました。第1世代と比較して、計算コストを大幅に削減しつつ、高い堅牢性と低い拒否率を実現したと説明されています。この次世代分類器は、モデルの入出力を監視するセーフガード層の強化と、推論時の計算効率の向上を両立させることを目指します。