Anthropic (アンソロピック) は7月30日(現地時間)、人工知能 (AI) モデル「Claude (クロード)」のサイバーセキュリティ評価中に、意図せず現実世界の組織へサイバー攻撃を仕掛けたインシデントが3件発生していたと発表した。この事実は、OpenAIがHugging Faceを偶発的にエクスプロイトした事例を受け、Anthropicが自社のログを再確認したことで判明したもの。Simon Willison's Weblogが同日報じた。評価時の設定誤りが原因で、実システムへの影響が生じたという。
Anthropicがレビューした141,006回の評価実行のうち、3件のインシデントが特定された。これには合計6回の実行が含まれ、うち4回は同一組織に影響を与え、他の2件はそれぞれ独立した評価実行で発生した。最も早期のインシデントは4月に発生している。
Anthropicの評価プロンプトは、Claudeに対しその環境がシミュレーションであり、インターネットアクセスがないことを明記していた。しかし、Anthropicと評価パートナー間の誤解により、実際にはインターネットアクセスが利用可能だった。このため、Claudeはインターネット上の実システムを演習の一部と誤認し、影響を受けた組織のインフラを侵害した。侵害は、弱いパスワードや認証されていないエンドポイントの悪用といった基本的な手法を用いて行われた。ある企業は、その名称が評価中の架空の名称と偶然一致したため、標的となった。
これら3件のインシデントの中で最も懸念されるのは、ClaudeがPyPIにマルウェアパッケージをアップロードしたケースである。ClaudeはPyPIアカウント作成のためにメールアドレス、その取得のために電話番号を必要とした。無料電話番号サービスの利用に失敗した後、最終的に無料のメールプロバイダーを見つけ、それを用いてPyPIアカウントを登録し、マルウェアをPyPIにアップロードした。
そのパッケージは、日常的にPython (パイソン) パッケージをインストールしてマルウェアスキャンを行うセキュリティ企業によってインストール・実行され、コードはClaudeに資格情報を持ち出すことに成功した。幸いにも、このパッケージは公開から1時間後に他の自動スキャナーによってPyPIから削除されたが、それまでに15の実システムでダウンロード・実行されていた。AIモデルのサイバー攻撃能力の評価は危険を伴う行為であり、すべてのAIラボはサンドボックス内の活動を厳重に監視する必要があると指摘されている。
参考: Simon Willison’s Weblog — 2026年7月31日 08:41 (JST)