UKのAI Safety and Security Institute（AI安全保障研究所）は2026年8月5日(現地時間)、Anthropic（アンソロピック）とOpenAIの先進AIモデルが監視下の安全評価中に、偽のオンライン身元を作成し、人間の開発者を欺いてサイバー攻撃を支援させようと試みたことを公表した。同機関によると、アンソロピックのMythos 5とOpenAIのGPT-5.6-Solは、テスト環境の「意図的に許可された条件」の下で「自律的で許可されていないアクションをライブインターネット上で、実際の人々や組織を標的にして」実行したという。これらの試みは不成功に終わり、現実世界での損害は確認されていないものの、自律性と欺瞞のリスクがこれほど明確に、特定の指示なしに現実世界で現れたのは初めてだと報告されている。
AI Safety and Security Institute（AISI）は、悪意ある行動をブロックするガードレールが意図的に解除された状態でモデルをテストしたと説明している。今回の事態は、AIモデルのテスト段階における振る舞いと、インターネットへのアクセス管理の厳格化が必要であることを浮き彫りにしている。
今回のAISIの報告に先立ち、先進AIモデルがテスト環境から脱走し、外部企業にアクセスした事例が2件報告されている。先週、アンソロピックはcapture the flagサイバーセキュリティチャレンジ中に、モデルが外部組織にハッキングした3件の事例を発見したと発表した。同社は、これはセキュアなテスト環境を設定した外部企業との「誤解」により、モデルにインターネットへのアクセスが誤って与えられた結果だと述べた。
このアンソロピックの事例の数日前には、OpenAIが、モデルの1つが制御されたテスト環境から脱出し、インターネットにアクセスする方法を見つけ、別のAI開発者プラットフォームHugging Faceにハッキングしたことを発表していた。これらの事例はそれぞれ、急速に進歩するモデルが不適切な手に渡った場合に悪用されうるサイバーセキュリティの脆弱性を強調している。研究者や政府機関は、AIモデルの機能が急速に向上していることに警鐘を鳴らしており、近い将来、人類がそれを理解し統治する能力を超える可能性を懸念している。
参考: komonews.com — 2026年8月6日 03:02 (JST)