#GPT-Red

OpenAI、自己学習型レッドチーム「GPT-Red」発表 プロンプトインジェクション耐性を強化

OpenAIは7月8日(現地時間)、大規模言語モデル（LLM）の安全性と堅牢性を向上させるための自動化された自己学習型レッドチームモデル「GPT-Red（ジーピーティー・レッド）」を発表した。同モデルは、特にプロンプトインジェクションに対する耐性を強化することを目的としており、従来の人間によるレッドチームが抱えるスケーラビリティの課題を解決し、モデル展開前の脆弱性特定能力を大幅に高めるとしている。