arXivは2026年7月29日(現地時間)、「GPT-Red: Automated Red Teaming via Self-Play at Scale」と題する論文を発表した。この研究は、フロンティアLLMに対する新たなプロンプトインジェクション攻撃を自動で発見するレッドチーム化エージェント「GPT-Red」を紹介している。同モデルは、プロダクションシステムの堅牢性を評価し改善することを目的とし、GPT-5.6の敵対的訓練に利用されている。
GPT-Redは、スケーラブルな自己対戦 (self-play) アルゴリズムを用いて設計された。このアルゴリズムでは、モデルが同時に訓練される多様なディフェンダーエージェント集団を攻撃するタスクを担う。訓練は現実的なレッドチーム環境で行われ、最大規模の強化学習 (RL) 後訓練に匹敵する計算資源が投入され、史上最大のLLM安全訓練となった。
エリック・ウォレス氏らが著者であるこの論文によると、GPT-Redはレッドチーム化において優れた性能を発揮する。過去のモデルであるGPT-5.5までは確実に攻略し、人間のレッドチームメンバーよりも多くの攻撃を成功させる。また、未知の環境、ディフェンダーモデル、およびハーネスに対しても汎化する能力を持つ。将来的には、新しいGPTモデルの堅牢性が向上するにつれて、より強力なレッドチームエージェントへの学習シグナルが提供され、自己改善の好循環が生まれると期待されている。
参考: arXiv cs.CR — 2026年7月30日 13:00 (JST)
原文ハイライト"automated red-teaming agent that is trained to discover novel prompt injection attacks"