#NanoGPT

OpenAI、長期自律モデルの安全性指針公開 潜在リスクと対策を詳述

OpenAIは7月16日(現地時間)、長期間にわたる自律タスクを実行するモデル（long-horizon models）の安全性とアラインメントに関する知見を公開しました。同社は内部利用中に既存の評価で捕捉できなかった新たな安全性の問題や失敗事例を観測し、アクセスを一時停止。この経験に基づき、新たな評価手法、長期アラインメントの改善、軌跡レベルでの監視強化を実施し、制限付きでのアクセスを再開しました。