Anthropicは10月15日(現地時間)、フロンティアモデルの独立評価を強化するため、非営利団体METRの従業員6人に、社内の従業員が使うのと同等のアクセス権を付与したと発表した。同社は既にSecureBioやAccentureとも連携しており、複数の評価機関と協力してモデルの安全性や挙動に関する第三者検証を強化する方針を示した。METRは評価結果の公開について独立した権限を持つとしている。
Anthropicは10月15日、非営利のフロンティアモデル評価機関METRの従業員6人に対し、社内のハードウェアやオフィススペース、同社のリスク評価チームが使う内部ツールやシステムへのアクセスを許可した。モデルおよび安全対策の独立した検証をより深く、広範に進めることが目的という。顧客データや弁護士・依頼者間秘匿情報、モデルアーキテクチャに関する情報など、特定のカテゴリについては引き続きアクセスを制限するとした。
METRは、リスクレベルやインシデント、実践に関する分析結果を独自に公開する権限を持つ。Anthropicは原則としてその公開を拒否できないが、特定のカテゴリに該当する情報については削除を要求できる権利を持つ。METRは削除要求の妥当性を含め、独立して公開するかどうかを判断できるとされている。
Anthropicは、評価者が果たすべき要件として「専門知識」「独立性」「十分な情報アクセス」「公開の自由」の4点を挙げた。金融機関に対する規制監督の仕組みに類似した発想で、外部評価者に深いアクセスを提供することにより、開発企業と評価者の間にある情報の差を縮め、実効性のある評価を可能にすることを目指すという。
同社は評価者との協力体制を3段階のティアに分類しており、METRとの関係は最も深い「ティア3」に位置付けられる。ティア3では従業員と同等のアクセスに加え、ティア2と同等の広範な公開権限が付与される。SecureBioは現在ティア1の関係にあり、Anthropicのリスクレポートのうち化学・生物兵器に関する章のレビューを担っている。AccentureおよびFacultyとも、評価、レッドチーミング、アライメント評価などを含む協力を進めているという。Anthropicは、フロンティアモデルを手掛ける企業各社が同様の評価者組み込みの手続きを自主的に導入するべきだとの考えを示した。
参考: anthropic.com (アーカイブ) — 2026年10月16日 02:20 (JST)