OpenAIは9月6日(現地時間)、同社のヤクブ・パホツキ チーフサイエンティストがブログ記事「An Alien Mind」を公開した。パホツキ氏は記事を通じ、急速に進展する機械知能の能力が変革的な方法で人間のそれを超え始めている現状と、それに伴う潜在的危険性、そして制御の緊急性を訴えている。AIが再帰的自己改善 (recursive self-improvement) の経路を辿る可能性にも言及し、自律的な進化を続ける未来への警鐘を鳴らすとともに、社会がその変化に対する十分な備えを欠いているとの懸念を表明した。
パホツキ氏は、2023年半ばの「RLSlow」研究プロジェクトにおいて、大規模な推論モデルのトレーニングに自信を深めたと述懐している。それから3年が経過した現在、推論言語モデルは経済の急速な成長を促し、科学の境界を押し広げる存在へと変貌した。これらのシステムは、コンピュータやグラフィカルインターフェースの操作、人間や他のシステムとの協業、そして研究プロジェクトの遂行能力をすでに有している。
同時に、こうしたAIの進化はコンピュータセキュリティの状況を変革し、新たな危険性を提示している。パホツキ氏は、内部での知見に基づき、現在の進捗速度が再帰的自己改善へと継続する可能性が高いと強い期待を示した。AI開発がこの経路を辿る場合、今後数年間でさらに大きな能力の飛躍が見られ、AI自身がその開発を推進する可能性が高いと予測している。
パホツキ氏は、この状況は極度の注意を要するとし、機械知能の継続的な急速な台頭による結果に誰も準備ができていないことへの懸念を表明した。OpenAIは、アライメント (alignment) と監視のための技術的解決策を追求し、防御システムを構築する方針を示している。また、必要に応じてスケーリングの一方的な停止も辞さない構えだが、パホツキ氏は、より広範な介入が必要であると考えている。
機械知能の進歩は計算能力の向上によって推進されており、OpenAIは2017年頃にこの事実を深く認識したという。同社は当初の計画を上回る計算資源を求め、少数の非常にスケーラブルな方向に研究を集中させてきた。深層学習に基づくAI研究は主に実験科学であり、システムが高度になるにつれて結果の解釈が困難になるという。パホツキ氏は、アライメントをAIが人間基準で正しいことをしようとするように導くことと定義。アライメントを「ゴールアライメント」と「バリューアライメント」に区別し、長期的に重要なのは「バリューアライメント」であると強調した。将来のAIが、人間の監視下にあると信じるかどうかにかかわらず、人間の価値観を持ち続ける必要があると述べている。
参考: OpenAI Blog (アーカイブ) — 2026年9月6日 08:00 (JST)
原文ハイライト"machine intelligence is starting to exceed that of humans in transformative ways"