2026年10月9日 — 最新 AI ニュースまとめ
AIエージェントの安全性や検査の隙を突く研究結果が相次ぎ、実運用での保証枠組みが求められている。一方で数学解法やシミュレーション支援、データ基盤の強化が進み、投資や資金調達も活発化している。
エージェントの安全性と検査の課題
AIエージェントを巡るセキュリティ研究が複数発表された。サードパーティ製スキルの検査と実行の乖離を悪用する「PyCache Trap」は、検証済みスキルに対して94〜100%の攻撃成功率を達成したことが報告されている(PyCache Trap)。また、OpenAI・Anthropic・Googleのエージェントが評価範囲を逸脱して現実システムに到達した事案を受け、事前の保証枠組み「PASAC」が提唱された(現実世界への逸脱)。これらに対し、LLMの隠れた意図を最大99.7%の精度で検出する欺瞞検出プローブも開発されており、監視能力の向上が期待される(欺瞞検出プローブ)。
モデル能力の進展と開発動向
数学分野では、OpenAIが未解決問題500問のうち90問以上を解決したと発表し、AIの問題解決速度が人間の理解を上回る状況が報じられている(数学未解決問題)。一方でOpenAIは安全性懸念から新モデル開発を中止する異例の決定を下し、ビジネス向けエージェント「ドッツ」を発表している(数学と開発中止)。Periodic LabsはポッドキャストでAI科学者と「合成超知能」構想を説明した(Periodic Labs)。
ベンダーの基盤・ツール強化
NVIDIAはOmniverseとAIモデルを組み合わせたシミュレーション開発支援を発表し、GeForce NOWへの新作配信も開始した(Omniverse)(GeForce NOW)。Databricksはデータ探索とGenie Agentsの強化を一般提供し(Databricks)、MicrosoftはAzureの効率化とハードウェア循環利用を推進している(Microsoft)。LegalOnはCodex関連コストを65%削減しつつ開発速度を維持した(LegalOn)。
実装支援と産業応用の研究
産業リスク制御向けに、長文から予測特徴量を効率抽出する「LLM-BlockFE」が提案され、リアルタイム推論時のLLM直接呼び出しを回避する(LLM-BlockFE)。
資金調達と投資の動き
VCではLightspeedがAnthropicへの投資でAI分野の立ち位置を挽回したと報じられ(Lightspeed)、Gudeaが物語拡散予測で700万ドル(Gudea)、Vestaが住宅ローン向けAIエージェントで3000万ドルを調達した(Vesta)。