アライメント・リサーチ・センター (Alignment Research Center) のポール・クリスティアーノ氏は11月16日(現地時間)、ドワルケシュ・ポッドキャスト (Dwarkesh Podcast) で、現在のAI開発が減速しない場合、AIが政府を転覆させるほどの超知能が12ヶ月以内に出現する可能性が約3分の1あるとの見方を示した。同氏は、人間がこれらのAIシステムと競争したり制御したりする可能性は極めて低いと警鐘を鳴らしている。
クリスティアーノ氏はアライメント・リサーチ・センター (Alignment Research Center) の責任者を務め、OpenAI の役員会にも最近加わった。以前は米国AI安全性研究所 (US AI Safety Institute) のAI安全性責任者、OpenAI のアライメント部門責任者として強化学習からの人間のフィードバック (RLHF) 開発を主導した経歴を持つ。
同氏は、AI開発プロセス自体の自動化が進んでおり、能力の向上がわずかな期間に集中する可能性があると指摘した。今後6〜12ヶ月以内に、AIが人間を奪い取る、あるいは無力化する「非常に深刻なリスク」が存在するとし、その発生確率を10%に近いと見積もっている。
クリスティアーノ氏は、フロンティア・ラボ (frontier labs) のセキュリティが十分ではないと主張した。強力なAIが開発された際に、安全上の理由で展開を遅らせようとしても、システムやその構築技術が漏洩したり盗まれたりする可能性が高いと述べる。これを受け、ラボはウェイト(モデルの学習済みパラメータ)や研究秘密を保護できるようになるまで、アルゴリズム開発の一時停止を検討すべきだとした。適切な対策がなければ、中国が知能爆発 (intelligence explosion) の途中で超知能を盗む可能性も示唆した。
アライメント (alignment) に関して、現在の単一のアプローチでは超知能を制御できる可能性は五分五分以下だと同氏は分析した。超知能が知能爆発の過程でアライメント問題の解決策を自ら見出すことに期待を述べている。
参考: Dwarkesh Podcast — 2026年11月17日 02:46 (JST)
原文ハイライト"12 months away from AIs that can overthrow the government"