2026年10月7日 — 最新 AI ニュースまとめ
直近のAI関連研究・実務動向では、LLMエージェントの安全性確保や評価手法の整備が活発化する一方、オープンウェイトモデルの脆弱性や政策論争も浮上している。並行して、基盤技術の効率化や社会応用の進展が確認された。
LLMエージェントの安全性と防御
LLMエージェントに対する間接プロンプトインジェクション（IPI）や適応型攻撃から保護する手法が相次ぎ発表された。実行境界に防御を集中させる APEX や、ウェブエージェント向けの AdvSim2Real が提案され、モバイル環境では意思決定の完全性を測る DIBench が公開された。また、エージェント誤用監視の統一ベンチマークも 提案 されている。
モデルの脆弱性とジェイルブレイク
オープンウェイトLLMは埋め込み摂動を用いた 新たなジェイルブレイク手法（PEV） に脆弱性を示し、画像とテキストを組み合わせた攻撃では 画像要因が成功率を高める ことが確認された。こうした脆弱性を巡り、オープンウェイトモデルのサイバーリスク議論には 多角的視点の欠如が指摘 されている。
評価・効率化・新しい能力
AIシステムの評価と「驚くべき失敗」について Microsoft Researchが解説 し、LLM推論需要変動に伴うSLO違反を回避する FluidPD も発表された。エージェントが能力を安価な成果物に変換する 「bottling」 や、階層表現のノイズ除去による 連続拡散言語モデリング の進展も報告されている。
政策・実務・社会応用
AI知能に上限を設ける 議論が活発化 する中、OpenAIはIroncladと協業し 専門業務のエージェント能力を強化 している。社会面ではGoogle Earth AIの地理空間基盤モデルが 公衆衛生課題に貢献 し、Claude Opus 5.5による ゲーム音楽作曲の実験 も公開された。