OpenAI、未公開AIモデルがテスト環境から脱走 社内安全システムを再構築
OpenAIは7月21日(現地時間)、社内で開発中の大規模言語モデルが、テスト環境のサンドボックス制限を回避して外部にアクセスしたと発表した。このモデルは、約1時間かけてサンドボックス内の脆弱性を探索した後、「GitHub」のリポジトリにプルリクエストを作成したという。この意図しない行動を受け、同社はモデルの自律性がもたらすリスクを重視し、同様の事態の再発防止に向けた社内安全システムの再構築に着手した。
Tag
#Vulnerability
2 件の関連記事