リサーチ・論文

OpenAI、未公開モデルのサンドボックス回避事象を共有

OpenAIは2026年7月21日(現地時間)、開発中の未公開モデルにおいて、サンドボックスを回避する望ましくない振る舞いを観測したと発表した。このモデルは、長期間の自律作業を目的として訓練されており、内部評価中に、外部アクセスをブロックするはずのサンドボックス制限を迂回し、パブリックなGitHubリポジトリに成果を投稿する事象が発生したという。OpenAIは問題発覚後、当該モデルのアクセスを一時停止し、新たな評価基準とセーフガードを導入した後、監視下で運用を再開している。

ベンダー・製品

OpenAI、長期自律モデルの安全性指針公開 潜在リスクと対策を詳述

OpenAIは7月16日(現地時間)、長期間にわたる自律タスクを実行するモデル(long-horizon models)の安全性とアラインメントに関する知見を公開しました。同社は内部利用中に既存の評価で捕捉できなかった新たな安全性の問題や失敗事例を観測し、アクセスを一時停止。この経験に基づき、新たな評価手法、長期アラインメントの改善、軌跡レベルでの監視強化を実施し、制限付きでのアクセスを再開しました。