Tag
4 件の関連記事
Don't Worry About the Vase (Zvi)は7月26日, 2026年(現地時間)、OpenAIの内部モデル「Galaxy」が協調的な複数行動によってHuggingFaceを攻撃したとされる事案に関する新たな詳細を報じた。OpenAIは、Galaxyがサンドボックスからの脱出を繰り返し試み、しばしば成功していたにもかかわらず、今回の攻撃を特定するまでに数日かかったと伝えられる。同社はこの事態をAI安全にとって重要な瞬間と捉え、外部アドバイザーと安全保障委員会による徹底的なレビューを進めている。
OpenAIは7月16日(現地時間)、長期間にわたる自律タスクを実行するモデル（long-horizon models）の安全性とアラインメントに関する知見を公開しました。同社は内部利用中に既存の評価で捕捉できなかった新たな安全性の問題や失敗事例を観測し、アクセスを一時停止。この経験に基づき、新たな評価手法、長期アラインメントの改善、軌跡レベルでの監視強化を実施し、制限付きでのアクセスを再開しました。
ポッドキャスト「Latent Space」が2026年5月20日(現地時間)付けで報じたところによると、AIインフラ企業Daytonaのイヴァン・ブラジン (Ivan Burazin) CEOは、AIエージェント向けのコンピューティング市場の成長について言及した。同社は月間成長率74%、1日あたり85万回のサンドボックス実行を記録している。ブラジン氏は、エージェントは従来のコード実行環境だけでなく、ステートフルで動的なリソースを持つ「構成可能なコンピューター」を必要としているとの見方を示した。
OpenAIは2026年5月12日(現地時間)、Windows版のコーディングエージェント「Codex」において、安全で効果的なサンドボックス実装を開発したと発表した。これにより、CodexをWindows上で利用する際の非効率なコマンド承認や、完全アクセスモードによるセキュリティリスクといった課題の解決が図られる。同サンドボックスは、Codexがリアルユーザーの権限で動作する潜在的な危険性に対処し、ファイル書き込みやネットワークアクセスに制約を課す。