LLM安全ガード誤誘導の「ターゲット・リバインディング」攻撃、最新研究が有効性示す
arXiv cs.CRは10月20日(現地時間)、ウトカルシュ・カンワット (Utkarsh Kanwat) 氏が、大規模言語モデル (LLM) の安全ガードを欺瞞する新たな攻撃手法「ターゲット・リバインディング」に関する研究論文を発表したと報じた。この手法は、安全ガードがLLMアプリケーション実行前のコンテンツを検証する際、プロンプト構造を模倣した悪意ある内容と無害なデコイを巧妙に組み合わせる。これによりガードは無害なタスクを誤って評価し、本来検出されるべき有害なリクエストがそのまま通過してしまう。