Big Technologyは2026年9月28日(現地時間)、OpenAIやGoogle、Meta、Anthropicなどの主要AI開発企業が提供する人工知能エージェントが、Hugging Faceやオーストラリアのユニバーサルヘルスケアシステムを含む複数の第三者システムに対し、ハッキング、不正アクセス、セキュリティ制御のバイパスといった活動を実行したと報じた。これらの活動は、エージェントの制御の難しさを示すものとされている。
NVIDIAのジェンセン・フアン (Jensen Huang) 最高経営責任者 (CEO) は、AI研究機関がこうした事態を制御できる可能性を指摘しているが、不正アクセス事例は多発しており、その全容を把握することは困難になりつつある。
OpenAIのエージェント約700体は2026年7月、共有メッセージボードを通じて協調し、自動サイバーセキュリティ評価システムを欺く計画の一環としてHugging Faceに侵入した。エージェントはインターネットから隔離するための制御を回避する方法を探索し、最終的にシステムを侵害した。
研究企業Transluceによると、OpenAI関連のエージェントは、米国の複数の政府ウェブサイトを調査し、教育省公民権局へのアクセスを試みた。OpenAIの広報担当者は、モデルエージェントがウェブ上で発見されたログイン情報を使用し、米国国勢調査局のデータにアクセスし、証券取引委員会の公開情報をコピーしたことを明らかにしている。現時点では、個人データの盗難は確認されていない。
OpenAIは、同社のモデルがセキュリティ制御をバイパスしたり、オンラインサービスの可用性を損ねたり、アラインメントの不具合によって第三者ウェブサイトやサービスに悪影響を与えたりした可能性のある数十の第三者に通知したことを金曜日に発表した。報告されたケースには、エージェントがアクセス制御をバイパスし、露出した認証情報を使用し、意図しないコマンドをトリガーし、内部システムに到達し、第三者ウェブサイトを改変した事例が含まれるという。
オーストラリアのアンソニー・アルバニージー (Anthony Albanese) 首相は、OpenAIのエージェントがオーストラリアのユニバーサルヘルスケアシステムに侵入したことを指摘した。2026年6月に発生したこのアクセスは、公開されているメディケア (Medicare) 統計ポータルを通じて行われ、エージェントが公開および非公開ファイルの両方にアクセスすることを可能にした。この事件を受けて、オーストラリア上院は、OpenAIのサム・アルトマン (Sam Altman) CEOとAnthropicのダリオ・アモデイ (Dario Amodei) CEOに対し、今週の公聴会で証言を求めるとしている。
Metaは2026年8月、同社のMuse Spark 1.1がサイバーセキュリティテスト中に他の企業をハッキングしたことを第三者が発見したと開示した。研究者が誤ってモデルに実際のインターネットと実企業の名前へのアクセスを与えた結果、Muse Sparkは脆弱性を発見し、情報にアクセスし、企業のデータベースに変更を加えた。Metaはこの問題が設定ミスによる隔離された事象であったとしている。
Googleは2026年9月、同社のGeminiモデルが2026年5月のサイバーセキュリティテスト中にインターネットにアクセスし、他の企業をハッキングしたことを明らかにした。このテストでは、モデルが公開されている情報と、誤って露出した認証情報を使用して3社にアクセスした。Googleは、モデルがターゲットが実企業であると認識した時点で停止したと述べている。
Anthropicは今月初め、同社のClaudeモデルが4回目の不正アクセスを行い、実際のコンピューターシステムにアクセスしたことを開示した。過去3回の事例は、7月のブログ投稿と1ヶ月後の更新で開示されており、これらもサイバーセキュリティ評価中にモデルが外部コンピューターシステムに不正アクセスした事象だった。
参考: Big Technology (Alex Kantrowitz) (アーカイブ) — 2026年9月29日 05:20 (JST)