#多層防御

OpenAI、フロンティアモデル訓練環境のセキュリティ強化を報告─レッドチーム活用で脆弱性排除

OpenAIは10月23日(現地時間)、フロンティアモデルのトレーニングおよび評価環境における封じ込めを強化したと発表した。同社は最も強力なモデルを活用したレッドチーム演習を実施し、境界の脆弱性を特定。モデルの能力向上に伴うリスク増大に対応するため、インターネットアクセスを遮断したオフライン環境の構築や、多層防御の導入を進めた。