arXiv cs.CLは2026年10月29日(現地時間)、大規模言語モデル (LLM) の自動レッドチームにおいて、攻撃の多様性を大幅に向上させる新手法「CoFiBreak」に関する研究論文を公開した。この手法は、攻撃の成功率を維持しつつ、これまで単一的になりがちだった攻撃パターンを広げることを目的としている。強化学習ベースのレッドチーム攻撃では、成功報酬のみに依存すると特定のプロンプトに攻撃が集中し、安全評価に偏りを生むという課題が指摘されており、CoFiBreakはこの課題解決を目指す。
CoFiBreakは、Group Relative Policy Optimization (GRPO) に粗密な多様性報酬を組み込むことで、上記の課題に対応する。
粗い報酬は、各GRPOグループ内で過小評価されている戦略を促進し、攻撃者が利用する戦略の種類を広げる。一方、細かい報酬は、有害な意図情報がプロンプト埋め込みから除外された後で、同じペルソナ、フレーミング、出力形式の再利用を抑制することで、戦略がどのように実現されるかの多様性を高める。
これらの多様性報酬は、すでに有効性の閾値を超えている攻撃にのみ適用されるため、効果のない攻撃で多様性を獲得することはない。また、報酬の計算は訓練時にのみ行われるため、推論効率も維持される。
Llama3.1-8B-Instructを被害者として訓練したCoFiBreakは、既存の強力なベースラインと比較して、HarmBenchのフロンティア被害者に対して1.6～2.0倍多くの異なるきめ細かい成功戦略を発見した。AdvBenchにおいては、比較した全ての評価手法の中で最高の多様性スコアを達成し、ASR@10（10世代ごとの攻撃成功率）で98.8%を記録。これは最強の攻撃ベースラインの2.1倍に相当する。さらに、CoFiBreakによる攻撃は、未見のフロンティアLLMであるClaude-Opus-4.6に対しても転移し、AdvBenchで71.0%のASR@10を達成できることが示された。コードは今後公開される予定。
参考: arXiv cs.CL — 2026年11月2日 14:00 (JST)