ウェブエージェント、適応型攻撃耐性向上へ 新手法「AdvSim2Real」発表
Sarim Hashmi、Mukul Ranjan、Kshitij Mishra、Mikhail Kuznetsov、Praneeth Vepakomma、Nils Lukasの各氏は10月6日(現地時間)、ウェブエージェントに対する適応型プロンプトインジェクションへの防御手法「AdvSim2Real」を発表した。この研究は学術論文アーカイブarXiv cs.CLを通じて公開されたもので、サードパーティのウェブページからの不正な指示により、ウェブエージェントがユーザーの意図した目標から逸脱するリスクと、既存の防御策が適応する攻撃者によって容易に回避される課題への対策を目指す。