OpenAIは2026年8月18日(現地時間)、AIモデル開発のペースを一時的に調整し、監視、アライメント、封じ込め対策に関する安全策を強化する計画を明らかにした。これは、同社の次期モデル「Astra」が、同社の「Preparedness Framework」における「Critical cybersecurity capability threshold」に達する可能性があるという予備的証拠を受けた措置である。
OpenAIは、開発中のAstraモデルがCritical cybersecurity capabilityを有すると判断されることを見越しており、Astraモデルまたはサイバー関連のワークロードに対しては、最も厳格なセキュリティセーフガードを要求している。これに伴い、一部のAstraモデルのトレーニングおよび評価は一時的に停止されている。
同社は、より高度なモデル開発に向けた3つの安全策として、監視（Monitoring）、アライメント（Alignment）、封じ込め対策（Containment safeguards）を挙げている。これらの安全策は、モデルの能力、運用環境、リスクレベルに合わせて、研究と展開の全段階に適用される。特に研究環境のセキュリティ基準が強化され、ワークロードの隔離、ネットワークの隔離、継続的なセキュリティテストが実施される。
監視システムも改訂・拡張され、多段階のシステムが導入された。このシステムはモデルの内部活動を検査し、潜在的な懸念を自動調査システムにエスカレートさせる。監視システムが重大なセキュリティ境界の違反を識別した場合、最高優先度のアラートを発出し、30分以内に活動が一時停止される見込みだ。この監視は、Sol以上の能力を持つモデルのツールを使用した強化学習（RL）トレーニングと評価、およびAstraの全ての推論に義務付けられており、監視オーバーヘッドは推論コンピューティングの約20%に達すると推定されている。
参考: OpenAI Blog — 2026年8月18日 20:00 (JST)
原文ハイライト"strengthening our monitoring, alignment, and containment safeguards across all stages of the training process."