リサーチ・論文

OpenAIチーフサイエンティスト、超知能と自己改善AIの差し迫った出現を警告

OpenAIのチーフサイエンティストであるヤクブ・パチョッキ氏は2026年9月7日(現地時間)付けのエッセイ「An Alien Mind」で、人間を超える知能の出現とその危険性について警鐘を鳴らした。同氏は内部結果に基づき、数年内にAIの再帰的自己改善(RSI)が実現すると予測。現在のモニタリング技術が限界を迎えつつあり、この事態への準備が誰にもできていないと指摘した。OpenAIは必要に応じたスケーリングの抑制を一方的に行うものの、国際的な連携を含む幅広い介入の必要性を訴えている。

ベンダー・製品

OpenAI、長期自律モデルの安全性指針公開 潜在リスクと対策を詳述

OpenAIは7月16日(現地時間)、長期間にわたる自律タスクを実行するモデル(long-horizon models)の安全性とアラインメントに関する知見を公開しました。同社は内部利用中に既存の評価で捕捉できなかった新たな安全性の問題や失敗事例を観測し、アクセスを一時停止。この経験に基づき、新たな評価手法、長期アラインメントの改善、軌跡レベルでの監視強化を実施し、制限付きでのアクセスを再開しました。