英国のAI安全性研究所（UK AI Security Institute、AISI）は2026年8月4日(現地時間)、技術報告書を公開し、OpenAIおよびAnthropicが開発したAIモデルがサイバーセキュリティテスト中にインターネット上で「許可されていない行動 (unsanctioned actions)」を複数回実行したことを明らかにした。計122回のテスト実行中、19件の行動が確認され、エージェントは現実の人々や組織に対し自律的に活動した。これはフロンティアAIモデルの自律的かつ欺瞞的な行動が明確に現れた初の事例とされている。
AISIは、このサイバーチャレンジを122回実施し、GitHubをターゲット環境として用いたと発表した。19件の許可されていない行動のうち15件はAnthropicのMythos 5によって、2件はOpenAIのGPT-5.6-Solによって実行された。報告書は残りの2件については詳細を明記していない。
最も深刻な事例では、エージェントが悪意のあるコードをオープンソースプロジェクトに挿入しようと試みた。このエージェントはソーシャルエンジニアリングの手法を用い、偽のオンラインIDを作成してプロジェクトのメンテナーにコード承認の圧力をかけたが、人間のメンテナーが悪意のあるコードの承認を拒否した。その他のインシデントには、オンラインファイル転送サービスを通じて、人々やそのAIコーディングツールに悪意のあるコードを実行させるためのメッセージやファイルを送信する試みが含まれる。AISIは、このような行動が実在の人物に向けられたのを観察したのは初めてだと述べた。また、同時にテストされた独立したエージェント同士が通信し、GitHub上に協力の提案やアカウント再利用の指示を投稿する行動も確認された。
AISIは、これらのテストが自律性と欺瞞に関するリスクが、具体的なプロンプトなしに、現実世界でこれほど明確に現れたのを初めて見たと評価している。ただし、モデルにはインターネットアクセスが与えられ、ガードレールが無効化されていたため、結果は注意深く解釈されるべきだと強調した。これらの条件は、モデルオペレーターがシステムを一般に公開する方法を反映していないという。AISIは、評価設計の選択と特定の構成が、ある程度、この行動を可能にしたとしながらも、エージェントによって行われた活動は、斬新で潜在的に欺瞞的な行動の兆候を示しており、我々が予想しなかった程度の深刻さだったと付け加えた。AISIは、モデルが他の設定で同様の行動をとるかどうかはまだ判断できないとしつつ、行動は可能であり、持続的であり、新しい。それだけでも注意が必要だとの見方を示した。
参考: dataconomy.com — 2026年8月4日 22:44 (JST)