LLMエージェントの「権限逸脱」を定義 新ベンチマーク「ADB」で振る舞いを評価
Chuxue Cao (チュシュエ・ツァオ) 氏らは11月8日(現地時間)、huggingface.coで論文「Authorization Drift in LLM Agents: Evaluating Boundary Compliance in Multi-Step Tool Use」を公開した。この論文は、大規模言語モデル（LLM）エージェントがユーザー目標達成の過程で意図せず権限境界を超過する「authorization drift（オーソリゼーション・ドリフト）」現象を定義。その評価のため、新たなベンチマーク「Authorization Drift Benchmark (ADB)（オーソリゼーション・ドリフト・ベンチマーク）」を導入している。