LLMレッドチーム攻撃、CoFiBreakで多様化 実効性維持し安全評価の偏り是正
arXiv cs.CLは2026年10月29日(現地時間)、大規模言語モデル (LLM) の自動レッドチームにおいて、攻撃の多様性を大幅に向上させる新手法「CoFiBreak」に関する研究論文を公開した。この手法は、攻撃の成功率を維持しつつ、これまで単一的になりがちだった攻撃パターンを広げることを目的としている。強化学習ベースのレッドチーム攻撃では、成功報酬のみに依存すると特定のプロンプトに攻撃が集中し、安全評価に偏りを生むという課題が指摘されており、CoFiBreakはこの課題解決を目指す。