OpenAIは2026年11月19日(現地時間)、大規模なフロンティアAIモデルの安全対策強化を発表した。同社は、悪意ある行為者がモデルの能力をセーフガードなしに再現する「敵対的蒸留」への対策として、モデルトレーニングや検出、執行を組み合わせた多層的なアプローチを導入した。特にGPT-6.2 AstraとGPT-6.2 Solにおいて、モデル内部の保護された推論の抽出に対する防御を強化した。

フロンティアAIモデルの能力向上に伴い、その責任ある利用における安全対策の重要性が高まっている。敵対的蒸留は、悪意ある行為者がフロンティアモデルの出力を無許可で利用し、同等の能力を持つ別のモデルを訓練し、保護機能なしに展開する経路を生み出す。これにより、例えば元のモデルが拒否またはブロックするサイバー攻撃を支援するモデルが作成される可能性がある。OpenAIは、敵対的蒸留の検出と阻止、保護された推論に対する防御強化、および業界全体の防御強化に貢献する教訓を公開した。

OpenAIの敵対的蒸留へのアプローチは、敵対的テスト、モデルトレーニング、分類器、APIレベルの保護を組み合わせ、モデル能力抽出の組織的な試みへの調査も含む。これらのセーフガードは、生物学やサイバーセキュリティで利用されるものと整合している。同社は、モデルが回答を生成する際の中間ステップである保護された推論(chain-of-thought)の抽出防止に特に重点を置く。これは最終回答に含まれない情報を含み、別のモデルの訓練データとして価値が高い。

OpenAIはGPT-6.2 AstraとGPT-6.2 Solにおいて、保護された推論の抽出に対する防御を強化した。社内評価では、強力な自動レッドチームを用いて、攻撃者がモデルが以前のプロンプトに回答する際に生成した保護された推論を回復できるか検証された。結果、GPT-6 Astraの元のセーフガードに対する平均攻撃成功率は54.0%から、GPT-6.2 Astraの更新されたセーフガードに対しては0.2%に低下した。

同社はサイバー能力移転における推論トレース保護の重要性を強調する。学生モデルが教師モデルの正確な推論トレースにアクセスできる場合、サイバー能力の移転がより多く発生することが示された。この研究結果は、保護された推論トレースがサイバー能力の移転を制限する可能性を示唆する。

防御策はセーフガードスタックの2つの補完的なレベルで機能する。リクエストレベルでは、モデルの挙動、分類器チェック、API制御が推論トレースの抽出を制限する。キャンペーンレベルでは、組織的な抽出の試みを明らかにするリクエストレベルとアカウントレベルのシグナルのパターンを監視する。調査で発見された攻撃は、セーフガードのトレーニングとテストの例として活用される。防御的なモデルトレーニングは、モデルが推論抽出の試みを認識し、保護された推論の開示を拒否するよう教える。分類器セーフガードは、入力および出力の分類器を用いて、保護された推論の抽出試行と漏洩を検出する。APIレベルの保護は、保護された推論が対話やモデル間で再利用される方法を制限する。GPT-6.2 AstraとGPT-6.2 Solでは、モデルの保護された推論は、それを生成した会話履歴に紐付けられる。


参考: OpenAI Blog (アーカイブ) — 2026年11月20日 09:00 (JST)

原文ハイライト

"Output classifiers can block suspected leaks before that content reaches the caller."

この記事をシェア
X はてブ LinkedIn