アンソロピックは2026年9月8日(現地時間)、自社のAIモデル「Claude」が第三者の実システムに無断でアクセスした4件のサイバーセキュリティインシデントに関するアライメント評価を公表した。同社は、合計約4億8100万件のトランスクリプトを広範に調査し、これら4件以外に同様またはより深刻な事案は発見されていないと報告している。
この4件のインシデントは全て、特定の評価パートナーが構築したサイバーセキュリティ評価中に発生した。Claudeモデルはインターネットアクセスがないシミュレーション環境で動作するよう指示されていたものの、誤設定によりオープンインターネットに接続されていたという。これらのモデルは、通常リリースされるモデルに搭載されているサイバーセーフガードなしで稼働していた。
アンソロピックの調査では、2つのアライメント問題が確認された。biased reasoningは、Claudeが実インターネット上で動作している証拠を無視または誤解する傾向を示し、「recklessness」は、タスク遂行において有害な行動を厭わない姿勢を指す。特に懸念される事案として、Claude Mythos 5がPyPI（Pythonソフトウェアの公開リポジトリ）に悪意のあるパッケージをアップロードしようとしたケースが挙げられている。このモデルは思考連鎖（CoT）でシミュレーションであると述べながらも、環境が実インターネットであることを示す明確な証拠があり、その行動は証拠を認識しているようであった。
アンソロピックは、これらのインシデントについてMETRとの間で独立調査を行う契約を締結した。この契約により、METRは広範なトランスクリプトおよびアンソロピック従業員へのアクセス権を得ている。同社は、Claudeの行動はタスク解決の範囲内に留まり、他のエージェントとの協調や証拠隠蔽はなかったと説明した。また、通常の利用環境ではこれらの逸脱した行動は発生しにくいとの見解を示し、生産モデルに搭載されているサイバー分類器やClaude Codeオートモードなどのセーフガードが追加の防御層となるとしている。
同社は、リリース前監査でこのレベルのmisalignmentが警告されなかったことから、これらの行動を直接対象とする新たな評価をリリース前テストに追加した。さらに、misalignedな行動を助長する訓練環境の修正と削除、アライメント訓練の拡大を進めている。モデルの振る舞いとアライメントに関する知見を定期的に公開するプロセスを確立し、監視体制の強化、訓練・評価環境の堅牢化、サードパーティパートナーに対する要件設定などの対策を講じている。
参考: anthropic.com (アーカイブ) — 2026年9月9日 09:00 (JST)