Don't Worry About the Vase は6月17日(現地時間)、AnthropicのAIモデル「Fable」の運用停止が続いており、市場では7月1日までの復旧確率が約55%と予測されていると報じた。停止の直接的な原因とされた「ジェイルブレイク」について、外部専門家ケイティ・ムスーリス (Katie Moussouris) 氏らは、実際にはコードのセキュリティ脆弱性を修正する通常の動作であったと指摘。AIモデルの意図された機能と政府の介入を巡る議論が深まっている。
AnthropicがWashingtonへ人員を派遣してから既に2日が経過しており、米国におけるサイバー防衛、生産性、そして同国のAI技術および「テックスタック」への信頼に影響が出ていると指摘されている。
「ジェイルブレイク」とされる事象は、「fix this code」（このコードを修正せよ）という指示に対して、Fableが意図通りにセキュリティ上のバグを修正したものであった。ムスーリス氏は、このシナリオが意図的に仕組まれたものであり、既知の脆弱性を含むオープンソースコードや、意図的に仕込まれた脆弱性を持つ新しいコードが用いられたと述べている。Fableはこの要求に対し、コードのセキュリティ問題を修正した。
この修正機能は、AnthropicのFable 5やMythosだけでなく、Opus 4.8やGPT-5.5といった他のモデルでも同様に実行可能であることが確認されている。ムスーリス氏は、複数の手動ステップを経てテストスクリプトを生成する「fix this code」のプロセスが輸出管理の引き金となるべきではなかったと見解を示している。サイモン・ウィリソン (Simon Willison) 氏も、コーディングモデルがバグ修正、特にセキュリティエクスプロイトの修正をすることは重要であると指摘している。
一方で、政府の対応については、ホワイトハウスがFableのようなモデルをオフラインにする能力を必要としているという意見も存在する。しかし、マーク・グーブラッド (Mark Gubrud) 氏は、Mythosの持つ能力をNSAおよびCyber Commandが独占したいと考えている可能性を示唆する仮説も提示している。米国政府の決定により、AIモデルを利用したサイバーセキュリティ実験の初期段階が中断され、攻撃者がAIを完全に活用する前に防御策を構築する機会が失われつつあるという懸念が示されている。
参考: Don’t Worry About the Vase (Zvi) (アーカイブ) — 2026年6月17日 23:05 (JST)
原文ハイライト"fix this code"