Apple ML Researchは2026年7月5日(現地時間)、データアノテーションにおける人間の安全性ポリシーを解釈可能にする「Annotator Policy Models (APMs)」を導入したと発表した。APMsはアノテーターのラベリング行動のみから内部的な安全性ポリシーを学習し、アノテーションの不一致が運用上の問題、ポリシーの曖昧さ、または価値観の多様性のいずれに起因するかを識別する。このモデルにより、アノテーターの推論プロセスを可視化し、安全性ポリシーの設計を支援すると見られる。
安全性ポリシーは、AIの出力が安全か否かを定義し、データアノテーションとモデル開発の指針となる。しかし、アノテーションにおける意見の不一致は広範にわたり、アノテーターのタスク誤解、ポリシーの不明瞭さ、あるいは異なる安全性への視点といった多様な原因から生じることが指摘されていた。これらの原因を区別することは重要だが、アノテーターに直接推論を尋ねる方法はコストが高く、人間およびLLMアノテーター双方において、自己申告の推論が実際の決定プロセスを反映しない場合があるため信頼性に欠ける課題があった。
今回導入されたAPMsは、追加のアノテーション作業なしにアノテーターの推論を可視化・比較可能にする。APMsはアノテーターのラベリング行動のみから彼らの内部的な安全性ポリシーを学習する解釈可能なモデルである。同社の検証によると、APMsはアノテーターの安全性ポリシーを80%を超える精度で正確にモデル化し、反事実的な編集に対する応答を忠実に予測し、管理された環境下での既知のポリシーの相違点を特定できる。APMsをLLMおよび人間によるアノテーションに適用することで、二つの主要な応用が示されている。一つは、アノテーターが安全性指示をどのように異なる解釈をしているかを明らかにし、ポリシーの曖昧さを表面化させること。もう一つは、デモグラフィックグループ間の安全性優先順位における体系的な違いを特定し、価値観の多様性を明らかにすることである。これらの機能は、より的を絞り、透明性が高く、包括的な安全性ポリシーの設計を支援する。
同社は、安全性関連の研究として、2026年3月24日に安全性上重要な画像特徴を反事実画像生成で分離する「SafetyPairs」を、また2025年11月3日にLLMの挙動を誘導するためのツール「Policy Maps」を公開している。
参考: Apple ML Research (アーカイブ) — 2026年7月6日 09:00 (JST)
原文ハイライト"Annotator Policy Models (APMs), interpretable models that learn annotators’ internal safety policies"