OpenAIは7月8日(現地時間)、大規模言語モデル（LLM）の安全性と堅牢性を向上させるための自動化された自己学習型レッドチームモデル「GPT-Red（ジーピーティー・レッド）」を発表した。同モデルは、特にプロンプトインジェクションに対する耐性を強化することを目的としており、従来の人間によるレッドチームが抱えるスケーラビリティの課題を解決し、モデル展開前の脆弱性特定能力を大幅に高めるとしている。
GPT-Redは、大規模言語モデルの展開前に脆弱性を発見し、修正する能力を拡張する自動レッドチームモデルである。OpenAIは、GPT-Redを用いてGPT-5を敵対的に訓練することで、プロンプトインジェクションに対する堅牢性を大幅に向上させた。その結果、GPT-5.6 Solは、最も困難な直接プロンプトインジェクションベンチマークにおいて、4ヶ月前の最良の生産モデルから6倍少ない失敗率を達成している。
人間によるレッドチーム活動は安全確保に不可欠だが、時間集約的であり、スケーリングが困難という課題があった。新たな故障モードの特定と、より強固な保護策への迅速な組み込みが難しく、モデル能力の進化に追いつくことが困難になっていた。OpenAIは、この課題に対し、展開前に脆弱性を特定し、モデル訓練中に攻撃を生成して堅牢性を向上させる、内部向けの自動レッドチームモデルの開発を進めてきた。
GPT-Redは、自己対戦型強化学習（self-play reinforcement learning）を用いて訓練される。GPT-Redと多様な防御側LLMが同時に訓練され、GPT-Redは有効な攻撃の成功で報酬を得る一方、防御側モデルは攻撃に抵抗し、元のタスクを完了することで報酬を得る。防御側モデルが堅牢になるにつれて、GPT-Redはより強力で多様な攻撃を発見するようになる。
GPT-Redの能力評価では、人間とGPT-Redが独立して攻撃を実施した。GPT-RedはGPT-5.5までのほぼ全ての内部モデルおよび生産モデルに対して攻撃を成功させる能力を持つことが確認されている。OpenAIは、GPT-Redを展開モデルとは別に維持することで、悪意のある能力が外部に流出しないようにしつつ、生産モデルに堅牢性を組み込む方針である。同社は今後も人間および第三者によるレッドチーム、多層防御、リアルタイム監視と並行してこのアプローチを拡張していくとしている。
この自動レッドチーム技術は、CISO（最高情報セキュリティ責任者）や機械学習セキュリティ担当者にとって、既存のセキュリティ評価プロセスに組み込む新たな選択肢を示唆する。LLMの導入が進む企業においては、従来の静的な脆弱性診断に加え、GPT-Redのような動的な敵対的訓練が、急速に進化するAIの脅威プロファイルに対応するための重要な評価軸となる可能性がある。ただし、システムの完全なセキュリティ確保には、自動化されたテストに加えて、人間の専門家による深い洞察と倫理的なレビューが引き続き不可欠であり、多層的な防御戦略の中で、自動化ツールをどのように位置づけ、既存のプロセスと連携させるかが、今後の運用の鍵となる。
参考: OpenAI Blog — 2026年7月9日 10:00 (JST)