normaltech.aiは10月1日(現地時間)、アーヴィンド・ナラヤナン (Arvind Narayanan) 氏とサヤシュ・カプール (Sayash Kapoor) 氏による論考「A big-tent or small-tent AI safety movement?」を公開しました。同論考は、AIの安全性を巡る議論の根底にある暗黙の意見の相違を分析。AIの実存的リスクに対する見方について、リスクは現実的かつ差し迫っているという見解と、リーダーや内部告発者の主張は不誠実であるという見解、さらに警告は誠実だが誤りであり逆効果であるという第三の可能性を提示しました。
ナラヤナン氏とカプール氏は、AIの安全に関するこれまでの議論が、警鐘を鳴らす人々を「天才」と前提し、彼らが慈善的か悪意があるかのみを問題にしてきたと指摘しました。著者らは、壊滅的なリスクに対する社会の過小投資という問題は認識しつつも、AI実存的リスクや長期主義 (longtermism) への拡張には強く反対する立場を示しました。
論考では、パンデミックへの備えの不足やサイバーセキュリティ分野における体系的・壊滅的リスクへの対応不足を例に挙げ、AIは既存のシステムリスクを増幅する存在であるとの見方を示しました。世界保健機関 (WHO) と世界銀行 (World Bank) が招集した2019年の報告書では、呼吸器系病原体による大規模な死者と経済的損失の脅威が指摘されていましたが、推奨事項の大部分は実行されなかったといいます。また、ロイズ (Lloyd’s) は、深刻な国家支援型サイバー攻撃による損失は保険市場の吸収能力を大幅に超える可能性があると述べています。
チャットボットがニューストラフィックに与える影響のように、緩やかで広範な社会的減衰（アトゥーサ・カシルザデー (Atoosa Kasirzadeh) 氏が提唱する累積リスク (accumulative risk)）もリスクとして挙げられました。AIコミュニティ内ではAIが世界の中心であるという見方が広範に共有されている一方で、ギャラップ (Gallup) の世論調査では、AIを最も重要な問題と考える人々の割合は0.5%に留まっており、AIに対する一般市民の関心度との間に大きな隔たりがあることが示されました。
参考: AI Snake Oil (アーカイブ) — 2026年10月2日 01:34 (JST)