OpenAI、独立評価機関4社と埋め込み型評価に着手 AIモデルの安全性を検証
OpenAIは11月16日(現地時間)、独立評価機関であるアポロ・リサーチ (Apollo Research)、メトル (METR)、トランスルース (Transluce)、グッドファイア (Goodfire)の4社と、AIモデルの「埋め込み型評価」の第一段階に関する契約を締結しました。AI機能の急速な進展と潜在的リスクの増大を受け、独立した専門家がOpenAIの内部モデルやシステムに深く長期的にアクセスし、モデルのアライメントとセーフガードの有効性を評価します。