arXiv、自己進化型エージェントの安全性課題を分析 新フレームワーク「SAVER」提案
arXiv cs.CRは10月1日(現地時間)、『Safety in Self-Evolving Agents: A Survey』と題する論文を公開した。大規模言語モデル（LLMs）を基盤とする自己進化型エージェントにおいて、経験の再利用が可能となることで生じる新たな安全性問題の分析に焦点を当てている。論文では、これらの課題に対応するため、遷移中心の新しいフレームワーク「SAVER」を導入し、エージェントの安全な運用を支えるためのアプローチを提示している。