Big Technologyは2026年10月30日(現地時間)、人工知能 (AI) が引き起こす大規模な災害の脅威が現実味を帯びる中で、AI業界がその予防措置よりも事態の発生を待つかのような現状にあると報じた。専門家たちは、AIの進化がサイバー攻撃、軍事衝突、さらには新型病原体の開発といった壊滅的なシナリオを引き起こす可能性を指摘。サイバーセキュリティ分野では、過去1か月が「ブラック・オクトーバー」と称されるほど、AI技術が新たな脆弱性を次々と生み出す一方で、その対応が追いつかない状況が続いている。
多くの現場専門家は、主要なAI関連災害が「もし起こるか」ではなく「いつ起こるか」の問題であるとの見方を示している。想定されるシナリオには、AI支援による人間が関わる壊滅的なサイバー攻撃、AIが示唆する新型病原体の開発、AIが操作する信号に基づく軍事衝突などが挙げられ、そのリスクは増大の一途をたどっている。
AI業界は「フロンティアのペースを調整する」という誓約を掲げているものの、現実には技術開発は加速しており、研究者は最新の進歩を利用して次の飛躍をより迅速に実現している。現状では、明確な集団的安全戦略を調整し、実行に移す意欲は十分に示されていないのが実情だ。
サイバーセキュリティ分野では、AIコーディングツールが悪意あるハッカーの手に渡り、懸念が最も高まっている。今年初めには、26歳のハッカーが中国製のオープンソースAIツールとClaude Code (クロード・コード) を用いて韓国の複数の銀行を攻撃したとされる事例が報じられた。また、別のハッキンググループはAnthropic (アンソロピック)、SpaceX、Moonshot AI (ムーンショットAI) のモデルを利用し、ラテンアメリカの400以上の金融機関からパスワードやAPIキーなどを窃取したという。
AIが関わる戦争のリスクも現実的な懸念材料となっている。先月発表されたある報告書では、米軍がチャットボットの不正確な出力に基づいて中国船に乗り込もうとし、軍用機が飛行する状況に至ったものの、最終的に直前で中止された事例が報告された。この事態は、まさに「ほぼ戦争を開始するところだった」と評されている。悪意ある行為者がAI技術を用いて攻撃を偽装したり、防衛システムを誤作動させたりすることで、国家間の偶発的な衝突を招く可能性も指摘される。
AIが支援するバイオ兵器の製造は困難であるものの、不可能ではないと見られている。実際にAnthropicの報告書によると、ある科学者がClaudeを利用して、鳥インフルエンザに感染性を高める変異を挿入するための研究計画を策定したという事例が確認されている。
これらのリスクや攻撃に関する多くの情報は、皮肉にもAIラボ自身から透明性を持って開示されている。しかし、そうした情報が提供されているにもかかわらず、大規模な災害を防ぐための業界全体での協調行動や統一された対策は依然として不足しているのが現状だ。
参考: Big Technology (Alex Kantrowitz) — 2026年10月31日 05:51 (JST)
原文ハイライト"Why Are We All Just Waiting For The Inevitable AI-Driven Catastrophe"