ジョン・デヴァドス (John deVadoss) 氏は10月23日(現地時間)、オンライン学術論文公開サイトarXiv cs.AI で公開された論文において、使用ベースの人工知能(AI)規制における適合性評価に関する新たな枠組みを提示しました。この論文は、AIシステムの展開リスクに基づき義務を割り当てる際、その適合性を「宣言されたコンテキスト分布における失敗率」として定義し、その評価方法について考察しています。

同論文は、使用ベースのAI規制が展開リスクに応じた義務を課す一方で、それを裏付ける客観的な指標が不足している現状を指摘しています。従来のベンチマークスコアがモデル自体の特性を示すのに対し、本論文では展開されたAIシステムの適合性を、特定のスコープと有効期限に制約された、宣言されたコンテキスト分布下での失敗率として定義しています。

デヴァドス氏は、以前の研究で提唱された委任契約 (delegation contract) の概念(凍結された構成、範囲指定された要求、実行可能な改訂ルール)を基に、AIシステムの展開者、監査者、および執行点の間で生じる戦略的相互作用を分析しました。論文では、以下の五つの問いを立て、それぞれに対するメカニズムと命題を示しています。

第一に、宣言されたコンテキスト混合が真実性を保つかという問いに対し、宣言された混合物に対する適切な採点ペナルティが、最善の応答をする展開者の過剰な失敗をペナルティウェイトのO($\lambda^{-1/2}$)で制限すると主張しています。第二に、評価トラフィックを検出するシステムに対して監査が公平であるかという問いには、ライブトラフィックから抽出されたコミット&リビール監査が、設計上公平であり、同じサンプルで評価者を評価すると述べています。第三に、認証エラーバジェットが長期的な展開を維持できるか。第四に、集計監査がサブグループごとの保証をサポートできるか。第五に、システム障害のみを計上しフォールバックコストを計上しないインシデントメトリックが、配置の優劣を正しく評価できるか、という問いが続きます。

これらの主張は、五つの事前登録済みの合成研究を通じてテストされました。しかし、具体的な言語モデルや生産システムは評価対象に含まれていません。論文は、執行が配布、能力アクセス、収益化、リスク移転のチョークポイントに位置すること、また適合性記録の有効期限が標準的な注意義務であることを強調します。この適合性(Conformance-as-a-rate)という概念は、EU AI法 (EU AI Act) における静的な適合性評価に対する代替案として提示されています。


参考: arXiv cs.AI (アーカイブ) — 2026年10月27日 13:00 (JST)

この記事をシェア
X はてブ LinkedIn