シンガポール・韓国AI安全研、ツール利用LLMのデータ漏洩リスク評価
シンガポールAI安全研究所 (Singapore AI Safety Institute) と韓国AI安全研究所 (Korea AI Safety Institute) は6月16日(現地時間)、ツール利用型大規模言語モデル (LLM) エージェントにおけるデータ漏洩リスクに関する共同評価報告を発表した。この評価は、プロンプトインジェクションのような敵対的攻撃に加えて、ユーザーが通常の要求を行った際の非敵対的な利用時にも、LLMエージェントが機密情報を不注意に露呈する可能性に焦点を当てている。顧客サポートやDevOpsなど12の現実的なシナリオに基づき、データ認識不足やポリシー順守不足といった5種類のリスクを検証した。