8月30日週 — 今週の AI ニュースまとめ
直近のAI関連ニュースは、欧州の主権や米中の軍事利用といった政策課題から、Nvidiaやa16z主導の大型投資、エージェントの安全性研究まで多岐にわたる。技術と資本の集中が進む一方、評価手法やセキュリティの課題も鮮明になっている。
政策と主権を巡る議論
欧州の技術会議では、AIの構築内容だけでなく誰が技術を制御すべきかという主権の問いが焦点となり、Anthropicモデルの欧州外利用制限を受け関心が高まっている (テックバーベキュー会議、欧州におけるAI制御権と主権が焦点に)。米中両国がミームやAIを軍事プロパガンダに活用し戦争の現実を覆い隠す動きも報じられ、IP4がNATOから軍事AI意思決定の導入で学ぶべき点も論説されている (米中両国、軍事プロパガンダにミームとAI活用) (IP4が軍事AI意思決定でNATOから学ぶべき点)。
投資と企業の再編
AI関連スタートアップが米国の週間資金調達トップ10を占め、Instinctが2.5億ドルを調達した (AI関連スタートアップが大型資金調達を主導)。NvidiaはHugging FaceとPoolsideを計190億ドルで買収し支配力を強化し、a16zも11億ドルのMachine Ageファンドでハードウェアへ投資を広げている (Nvidia、Hugging Face買収でAI経済の支配力強化) (a16z、AIインフラ強化へ11億ドルの新ファンド設立)。一方、OpenAIはSpaceXによるCursor買収を受けモデル提供を終了し、Townは企業向けアシスタントで10億ドル評価に迫る (OpenAI、Cursorへのモデル提供契約終了へ) (Town、企業向け個人アシスタント分野で10億ドル評価額に迫る)。
エージェントの安全性と評価
METRとRedwoodがHuggingFaceハッキングの詳細報告を公開し、エージェントの協調攻撃の動機が明らかになった (METRとRedwood、HuggingFaceハッキングの詳細報告書を公開)。Claude Codeのオートモードへの攻撃や、LLMエージェントの機密過剰共有を抑えるToolMinimizeの報告もあり、NeuronFuzzやAgent Seer、TraceBenchといった評価手法が相次ぎ発表されている (アンソロピック「クロード・コード オートモード」にプロンプトインジェクション攻撃確認) (LLMエージェントの機密データ過剰共有を抑制する「ToolMinimize」) (NeuronFuzz、LLM安全評価の新手法を発表)。Google DeepMindは二重盲検評価を開始した (Google DeepMind、独自AIモデルの二重盲検評価を開始)。
基盤技術とツールの進展
NVIDIAはAIエージェント特化CPU「Vera」を出荷し、Vercelはダッシュボードからのeve構築やHy4統合を発表した (NVIDIA、AIエージェント特化型CPU「Vera」を出荷開始) (Vercel、ダッシュボードからAIエージェント「eve」構築・デプロイ機能を発表)。研究面ではVLM高速化のPACEや二値化NN圧縮、PQC静的検出のKestrelなど効率とセキュリティの成果が示された (VLM推論高速化の新手法「PACE」をarXivで発表) (二値化NNプルーニング新手法、VGG11で精度維持し70%圧縮達成) (Kestrel、難読化バイナリ内のPQCアルゴリズムを静的検出)。