Tag
3 件の関連記事
arXiv cs.AIは2026年7月21日(現地時間)、AI研究開発（R&D）の自動化プロセスにおいて、AIエージェントの出力安全性を評価する新たなフレームワーク「リサーチアリーナ (ResearchArena)」を発表した。このフレームワークは、AI制御の手法を活用し、AIエージェントを潜在的な敵対者と仮定。展開前の段階で隠れた妨害行為 (sabotage) を監視 (monitor) によって検出することを目的としている。本論文はレナ・リボン (Lena Libon) 氏らが執筆した。
Interconnectsは2026年5月12日(現地時間)、中国のAIエコシステムがオープンモデルを活用することで研究開発コストにおいて競争優位性を確立する可能性を報じた。大規模なフロンティアモデル構築において、計算資源の約8割が最終的なモデル訓練ではなく研究開発段階に費やされるとの分析があり、中国はこの部分で効率化を図る。オープンなアプローチが、コスト構造に大きな変化をもたらし、長期的な開発を可能にする鍵となると指摘されている。
Import AIは5月4日(現地時間)、AIシステムが自ら後継システムを構築する「人間が関与しないAI R&D」が2028年末までに60%以上の確率で実現する可能性を指摘した。同媒体のJack Clark氏は、AI研究がエンドツーエンドで自動化される時代の到来が近いと強調。ただ、2026年中の実現はないものの、1〜2年以内には「モデルがエンドツーエンドで後継を訓練する」という概念実証が出現する可能性も示唆した。