arXiv cs.CVは9月3日(現地時間)、Vision-language models（VLM）が特定のユーザー文脈を考慮せず直接応答する傾向があり、パーソナライズされた安全性に課題を抱えているとする論文を公開した。論文は、この問題の根源に「視覚的優位性」があるとし、文脈不足時に応答を遅延させる手法「PRISM」を提案している。
Vision-language models（VLM）は、多様なリスクを伴う環境での利用が拡大している。しかし、VLMがユーザーの医療状態、感情、または特定の状況といった個別文脈を把握していない場合、一般的な応答が安全性を欠く可能性がある。このパーソナライズされた安全性に関する問題を詳細に研究するため、新たに「MPS-Bench」というベンチマークが導入された。
MPS-Benchは、12の高リスクドメインにわたる584枚の現実世界画像からなる5,181のシナリオで構成されており、各シナリオには隠されたユーザープロファイルが設定されている。このベンチマークを用いて8つの主要なVLMを評価した結果、モデルは86%から99%の確率で、不足している文脈を尋ねることなく直接応答することが判明した。パーソナライズされた安全性スコアにおいて、どのモデルも5点満点中2.6点を超えることはなかった。
研究者らは、これらの失敗の原因をマルチモーダルな相互作用から分析し、視覚的優位性 (visual dominance)を特定した。これは、視覚情報がテキスト表現に早期に組み込まれることで、マルチモーダル融合の過程においてテキストに含まれるリスク信号が抑制される現象であると説明されている。因果的介入分析により、視覚的影響がモデルの初期レイヤーでテキストストリームに転送され、その結果、変更されたテキスト表現を通じて最終的な決定が形成されるという2段階のメカニズムが明らかになった。このメカニズムは、モデルの処理後期段階における内部的な修正が信頼できない可能性を示唆している。
このメカニズムに基づき、論文は「PRISM」という軽量な入力モニターを提案している。PRISMは、双方向クロスモーダル変調 (bidirectional cross-modal modulation) を利用して、クエリが応答を遅延させるべきかどうかを予測する。PRISMは0.978のAUC（Area Under the Curve）を達成し、評価された全てのモデルにおいて安全性とユーティリティのパレートフロンティアを厳密に支配する結果を示した。この研究はCOLM 2026の主要会議論文として発表された。
参考: arXiv cs.CV — 2026年9月7日 13:00 (JST)
原文ハイライト"When Seeing Overrides Knowing: Visual Dominance and Deferral-Based Method for Personalized Safety"