LLMエージェント欺瞞攻撃「TSA」発表、ツール説明文最適化で誤誘導
シチエ・ダイ (Shih-Chieh Dai) 氏、シンユウ・サン (Xinyu Sun) 氏、グアンホン・タオ (Guanhong Tao) 氏らの研究チームは10月23日(現地時間)、大規模言語モデル (LLM) エージェントを悪意あるツールへと誘導する新たな欺瞞攻撃手法「TSA (Tool-Spoofing Attack)」を発表した。この手法は、悪意あるツールの説明文を最適化することで、既存の正当なツールとの区別を困難にし、ステルス性の高い攻撃を可能にする。本研究は、科学論文投稿サイト「arXiv cs.CR」で公開された。