Agentic AIの安全運用へ 新フレームワーク「BRaVeS」を提案
arXiv cs.LGは9月24日(現地時間)、Srini Ramaswamy氏らが執筆した論文「Bounded Autonomy and Verifiable Safety for Agentic AI Enabled Automation」を公開した。論文では、危険度の高い環境でAgentic AI (エージェンティックAI) が関わる自動化システムを安全に展開するための新しいフレームワーク「BRaVeS (ブレイブス)」が提案されている。確率的推論にのみ依存する既存システムは、推論が深まるにつれて専門家の安全運用制約から逸脱する「epistemic drift」のリスクを抱えていることが指摘されている。