JDPI、LLM脱獄検出を対比プロトタイプ構造で高精度化 – arXiv論文
arXiv cs.CLは2026年11月18日(現地時間)、Yan Qiu氏とYuanYuan Li氏らが、大規模言語モデル (LLM) の脱獄試行や有害なプロンプトを検出する新手法「Jailbreak Detection with Prototype Inference (JDPI)」を提案したと発表した。JDPIは、事前学習済みモデルを特定のドメインに合わせるエンコーダの適応、少数の二値安全性ラベルのみでプロトタイプを構築する仕組み、そしてプロトタイプ間の相対距離に基づいて予測を行う検証という三段階のプロセスを通じて、追加の訓練可能なダウンストリーム分類器なしで安全性検出を可能にする。