論文公開プラットフォームarXiv (アーカイヴ) cs.CVは10月6日(現地時間)、「Physiognomy Revisited: How Vision-Language Models Encode Sensitive Attributes Through Image Transformation」と題する論文を公開しました。同論文は、一部のVision-Languageモデル (Vision-Language Models, VLM)が顔画像の生成時に人種や性的指向といった機微な属性をエンコードし、既存のステレオタイプを強調する可能性を指摘しています。
本論文の著者であるソウミャジット・ダッタ (Soumyajit Datta) 氏、アルカ・ダッタ (Arka Dutta) 氏、アシクール・R・フダブクシュ (Ashiqur R. KhudaBukhsh) 氏らは、進化する生成AI技術に潜む予期せぬ脆弱性と予測困難な障害モードに注目しました。彼らの調査によると、Vision-Languageモデル (VLM)が顔画像を人種（ヒスパニック、黒人、白人、アジア人など）や性的指向（ゲイ、異性愛者など）を反映するよう変換する要求に対し、多くの場合、モデルがこれに応じることが判明しています。
モデルの応答（および拒否）は非決定論的で、特定のグループに敏感な傾向が見られました。生成された画像は統計的に区別可能であり、しばしば既存のステレオタイプを強調する傾向が指摘されています。さらに、画像生成中に導入された表現バイアスが、テキストによる推論や特徴付けタスクにおいても再出現する可能性も示されています。
研究者らは、この懸念される発見が人種的アイデンティティや性的指向にとどまらないことを指摘しています。本論文では、画像生成が犯罪性に関するバイアスを永続させる可能性についても論じられており、これはAIアシストによるプロファイリングという重大な可能性を提起するものです。
この研究は、自然言語処理の国際会議であるEMNLP (エンエムエルピー) 2026のメインカンファレンストラックで採択されました。
参考: arXiv cs.CV (アーカイブ) — 2026年10月28日 13:00 (JST)
原文ハイライト"How Vision-Language Models Encode Sensitive Attributes Through Image Transformation"