Anthropic（アンスロピック）は7月(現地時間)、AI技術の指数関数的発展に伴う潜在的リスクに対処するため、「Policy on the AI Exponential」と題する新たな政策提言を発表しました。同社は、高度なAIシステムが引き起こす壊滅的リスクに対処する「Advanced AI Framework」を提示し、連邦政府が強力な安全基準を確立しない限り、連邦法が州法に優先すべきではないとの見解を示しています。
Anthropicが公表したPolicy on the AI Exponentialは、Advanced AI FrameworkとEconomic Policy Frameworkの二つの主要な柱で構成されています。
Advanced AI Frameworkでは、最も強力なAIモデルが引き起こしうる壊滅的なリスクに対処するため、政府が危険なAIシステムの展開を阻止または抑止する法的権限を持つべきだと提言されています。これには、既存の法律や現在の議会提案を超える権限が含まれる可能性があり、違反に対してはグローバル年間収益に基づく民事罰が課されることも示唆されました。
このフレームワークは、10²⁵ FLOPsを超える計算量で訓練され、AI関連収益が5億ドルを超えるか、AIの研究開発に10億ドル以上を費やす企業によって開発された「フロンティアAIモデル」に適用されます。対処すべき壊滅的リスクとしては、生物学的リスク、サイバーリスク、制御喪失リスク、そしてAIが自律的な研究開発能力を持つリスクの4種類が具体的に挙げられています。Anthropicは、これらのリスクに対処するため、定期的なリスクレポートの公開や独立評価者との連携を求めています。
同社はまた、連邦政府が現在提案されているフレームワークと同等以上の強力な連邦法を制定しない限り、連邦法が州法を優先（preempt）すべきではないと明言しています。連邦法がカバーする特定の安全機能の範囲外にある問題、例えば児童の安全や消費者保護などについては、引き続き州がAIを規制することを許可すべきとの見解を示しました。
Anthropicの政策提言は、AI開発に携わる企業や関係者に対し、将来的な規制の方向性を示唆するものです。例えば、10²⁵ FLOPs、AI関連収益5億ドル、AIの研究開発投資10億ドルといった閾値は、将来的な規制適用可能性を判断する上で重要な指標となる可能性があります。また、生物学的、サイバー、制御喪失、そしてAIが自律的な研究開発能力を持つといった4種類の壊滅的リスクは、フロンティアAIモデルが直面する具体的な課題として提示されており、これらのリスクに対する評価プロセスや緩和策の検討が促されると見られています。
参考: anthropic.com — 2026年7月16日 09:00 (JST)