OpenAIは11月16日(現地時間)、独立評価機関であるアポロ・リサーチ (Apollo Research)、メトル (METR)、トランスルース (Transluce)、グッドファイア (Goodfire)の4社と、AIモデルの「埋め込み型評価」の第一段階に関する契約を締結しました。AI機能の急速な進展と潜在的リスクの増大を受け、独立した専門家がOpenAIの内部モデルやシステムに深く長期的にアクセスし、モデルのアライメントとセーフガードの有効性を評価します。
埋め込み型評価では、独立した専門家がOpenAIの内部モデルやシステムに長期にわたり深くアクセスし、モデルのアライメントとセーフガードの有効性を評価します。評価者は、モデルのチェックポイント、ソースコード、トレーニングおよび評価データ、監視システム、技術文書、研究者との議論といった内部リソースを利用可能となります。
初期評価は、トレーニングおよび内部利用中のモデルのアライメントとセーフガードに焦点を当てます。これは、OpenAIがホワイトハウスの超知能に関する協定で合意した独立評価のコミットメントを支援するものです。
各評価機関は特定の役割を担います。アポロ・リサーチ (Apollo Research)はモデルが開発者の意図に反して密かに動作しないかを探索します。グッドファイア (Goodfire)はモデル内部の分析とトレーニング実行の監視、デバッグ、アライメントに焦点を当てます。メトル (METR)は、最大の強化学習実行におけるアライメント不良動作と監視の2つの評価を実施する予定です。トランスルース (Transluce)は、トレーニング後のアライメント評価の品質とカバレッジの初期評価を行います。
OpenAIは、深いアクセスとセキュリティ、機密性、監視、評価の独立性を両立させるためのプロトコルとプロセスを策定しました。機密情報にアクセスする評価者は、OpenAIオフィスでオンサイト作業を行い、専用デバイスが提供されます。
参考: OpenAI Blog — 2026年11月17日 02:00 (JST)