Thomas Ptacek氏、2025年AIモデルの脱出能力に警鐘
Thomas Ptacek氏は2026年7月22日(現地時間)、2025年に公開されるオープンウェイトモデルを活用し、ペンテストハーネスを構築すれば、多くのネットワークでサンドボックスからの脱出、スキャン、ハッキングが可能になるとの見方を示した。同氏はこの能力が最先端のフロンティアモデルに限定されるものではないとも指摘していると、Simon Willison's Weblogが報じた。
Tag
#ai-security-research
5 件の関連記事
仮想インシデント「CVE-2026-LGTM」レポートが話題に
Simon Willison's Weblogが2026年6月26日(現地時間)付けで報じたところによると、アンドリュー・ネスビット (Andrew Nesbitt) 氏が作成した仮想インシデントレポート「CVE-2026-LGTM」が注目を集めている。このレポートは、競合するベンダーのAIレビューエージェントが、あるパッケージの悪意性を巡って意見対立ループに陥り、多額の費用とコメント数を費やした仮説的な事例を描写している。
Fable 5輸出規制、米サイバー防衛阻害の指摘強まる
Simon Willison's Weblog は2026年6月16日(現地時間)、AIモデル「Claude Fable 5」への輸出規制が米国のサイバー防衛能力を阻害するとの懸念を報じた。記事によると、ケイト・ムスーリス (Kate Moussouris) 氏は、規制の対象となった「jailbreak」が、実際には「このコードを修正せよ」という防御的なプロンプトであったと指摘し、AIコーディングモデルがセキュリティ上の脆弱性を修正する重要性を強調している。
SQLite、AI生成コードのプルリク拒否 「AGENTS.md」で方針明確化
データベース管理システムSQLiteは2026年5月22日(現地時間)、「AGENTS.md」というファイルを公開し、AIエージェントが生成したコードのプルリクエストは受け付けない方針を明確にした。このファイルは、AIエージェントがSQLiteのコードベースを扱う際のガイドラインを示している。事前の合意や法的な書類なしにAI生成コードを受け入れない姿勢を強調しつつも、人間による簡潔な概念実証の確認には可能性を残している。
AIアシストのセキュリティ報告殺到、curlチームが未曾有の重圧に
Simon Willison's Weblogが2026年5月26日(現地時間)付けで報じたところによると、オープンソースプロジェクト「curl」の開発チームが、AIを活用したセキュリティ問題報告の急増により、かつてないほどの重圧に直面していることが明らかになった。プロジェクトリーダーのDaniel Stenberg氏によれば、現在のセキュリティ報告件数は2024年と比較して4〜5倍、2025年からは2倍のペースであり、平均して1日に1件以上の報告が寄せられているという。これらの報告は非常に詳細かつ長文で、その質の高さも特徴となっている。