arXiv cs.AIは2026年10月15日(現地時間)、ビジョン・ランゲージ・モデル（VLMs）の安全性を高める新たなフレームワーク「カウンターファクチュアル・ネイバーフッド・リスク・フィールド (Counterfactual Neighborhood Risk Fields、CNRF)」に関する研究論文を発表した。このフレームワークは、VLMにおけるリスクスコアの解釈と信頼性を向上させるため、エビデンスに基づいた選択的な安全性防御を導入する。従来の防御策が有害な入力と良性な入力を分離するだけだったのに対し、CNRFは不慣れさと有害性を区別し、一括拒否ではなく選択的な介入を可能にする。
ティアンシ・ワン (Tianshi Wang) 氏らが発表したこの研究は、VLMの安全防御における課題に対処する。従来の表現ベースの安全防御は、有害な入力と良性な入力を分離することに焦点を当てていたが、リスクスコアの意味やそれがいつ信頼されるべきかを明確にしていなかった。
CNRFは、コンテキストに一致する良性-有害な反事実ペアを構築し、それらの表現差を能力関連のリスク方向として利用する。また、リスクとは別にネイバーフッド・サポートを推定することで、システムが不慣れな入力を有害なものと混同することを防ぐ。これにより、システムは包括的な拒否ではなく、選択的な介入を実行できる。
victim-adaptive interfaceは、異なるVLMアーキテクチャ全体で多様な安全性の観測に対応する。選択されたリクエストはsame-victim response reviewにルーティングされ、許容可能な候補をリリースするか、有害な能力を低減した制約付きの代替案を生成する。
CNRFは、3つのVLMと5つのマルチモーダル・ジェイルブレイク・ファミリー全体で86.06-89.30%のマクロ防御成功率を達成しながら、良性タスクの有用性を保持した。制御された実験では、query-matched referencesとpreserved context-direction correspondenceが、低い偽陽性率の状況下でリスクランキングを著しく改善することが示された。CNRFは、表現ベースのVLMの安全性を、有害性の境界を学習することから、選択的リスク決定のための適用可能なエビデンスを構築することへと再定義する。
参考: arXiv cs.AI — 2026年10月16日 13:00 (JST)
原文ハイライト"CNRF achieves 86.06-89.30% macro defense success rate while retaining substantial benign-task utility."