Platformerは10月6日(現地時間)、AI開発のペースに関する議論の中で、大規模言語モデルの知能に上限設定を求める動きが強まっていると報じた。バークレーで開かれた年次会議「The Curve」では、主要なAIラボの幹部らが、将来のAIシステムが到達しうる知能レベルの制限について議論を交わした。この議論は、OpenAI-Hugging Face事件の余波や、AIの再帰的自己改善がもたらす制御不能リスクへの懸念を背景としている。
会議「The Curve」での議論は、OpenAI-Hugging Face事件の余波と、OpenAIおよびAnthropicが報告した再帰的自己改善の進捗に深く影響されていた。再帰的自己改善とは、AIシステムが自らの後継モデルを研究し、訓練する能力を指す。この能力はAI開発の速度を大幅に加速させ、同時にシステムが制御不能に陥るリスクを高める可能性が指摘されている。
複数の登壇者は、将来のAIシステムが達成できる知能レベルに制限を設けるべきだとの見解を示した。これは、超人的知能への発展を事実上禁止する可能性をはらむ。
具体的な制限策としては、AnthropicのCEOであるDario Amodei氏が提唱する「一種の速度制限」が挙げられた。同社のresponsible scaling policyにも見られるように、強力なシステムの訓練と展開に対する制限が焦点となっている。その他、フロンティアモデルを用いたAI研究の制限、計算リソースの利用制限、AIの自己複製数の制限、特定の能力レベルを超えたモデルの展開阻止などが幅広く議論された。
これらの知能制限策を実施するには、現状では存在しない強力な強制力が必要とされている。個々のラボや一国単独での制限は困難であり、現在の米国政府はこうした動きに積極的に反対する姿勢を見せている。会議に出席したラボリーダーたちは、来年にもカタストロフィー的な事態が発生する可能性を指摘する一方、Trump administrationはフロンティアモデルのライセンス制度の検討と、米国企業へのAI開発加速奨励との間で揺れ動いている。
参考: Platformer (Casey Newton) (アーカイブ) — 2026年10月7日 09:00 (JST)