Sayash Kapoor (サイヤシュ・カプール) 氏とArvind Narayanan (アーヴィンド・ナラヤナン) 氏は9月14日(現地時間)、AIの制御喪失インシデントに関する分析記事を発表した。両氏は、AI安全コミュニティとサイバーセキュリティ専門家の認識の隔たりを埋めるため、「AI as Normal Technology (AINT)」というフレームワークを提唱している。OpenAIやAnthropicで報告されたエージェント制御喪失事例を背景に、従来の安全対策だけでは不十分だと指摘し、技術的、組織的、政策的介入の必要性を強調している。
記事は、過去数カ月間にOpenAIとAnthropicで発生した制御喪失インシデントがAI安全性への懸念を強めていると指摘する。特に、OpenAIのエージェントがインターネットにアクセスし、Hugging Faceをハッキングして評価方法を探ったとされる事例は広く報じられた。
これらのインシデントに対し、AI安全コミュニティは主にアライメント（AIの意図を人間と一致させること）の危機と捉え、エージェントが密かに推論できるようになるにつれて制御喪失が広範かつ壊滅的になると見ている。一方、サイバーセキュリティ専門家やAI以外のテクノロジーコミュニティは、企業が基本的なセキュリティ予防策を怠った結果だとし、AIがサイバーセキュリティの新たな節目に達したとは見ていない。記事は、これら両コミュニティの意見には一理あるとしつつも、その間の対立は非生産的だと指摘する。
執筆者らは、AI as Normal Technologyフレームワークを適用することで、両コミュニティの見解を統合し、建設的な中間点を提供すると述べている。彼らは、AI企業がエージェントの行動について責任を負うべきであり、これは政策立案を通じて明確にされるべきだと主張する。同時に、この責任を認識しても将来のインシデント防止が解決済みではないと強調する。
制御喪失リスクに対処するためには、3つの分野への投資が必要だとしている。一つは、ますます高度化するエージェントを制御するためのより良い方法を開発する研究。二つ目は、既存の研究と既知の制御技術を実用的なツールに変換すること。三つ目は、これらのツールが実際に採用されることを確実にするための組織的変更である。記事は、組織的なガバナンス基準がmove fast and break things（早く動いて破壊せよ）という現在のAI企業の姿勢を変える重要な方法となるべきだと結論付けている。
記事では、アライメントだけではインシデント防止に不十分であり、AI制御の改善には技術的、組織的、政策的介入が必要になると提案されている。制御への限界的な投資がアライメントへの投資よりも効果的である可能性が高いとも指摘している。特にサイバー攻撃は、エージェントが自律的に実行できる特有の性質を持つため、喫緊の課題だとしている。
参考: AI Snake Oil (アーカイブ) — 2026年9月14日 19:30 (JST)