アーカイヴ（arXiv）は2026年7月27日(現地時間)、研究論文を公開し、テキストから画像を生成するモデル（T2Iモデル）における既存の有害性検出器が、画一的なアプローチを採用しているため、周辺化されたコミュニティを十分に保護できていない現状を指摘しました。論文によると、安全とラベル付けされた生成画像のうち、約35%が障害者コミュニティによって有害と評価されており、コミュニティ特有の有害性検出（CTD）の必要性を示唆しています。
研究者らは、コミュニティ特有の有害性検出（CTD）の実現可能性を探るため、障害分野の専門家と協力し、小人症および盲・弱視の二つのコミュニティ向けに独自の安全ガイドラインを策定しました。
このガイドラインに基づき、2,400枚のT2I生成画像を含むデータセットを用いて検証を実施した結果、既存の大規模ビジョン・言語モデルや汎用有害性検出器は、ゼロショット設定において、これらのコミュニティ特有の有害コンテンツを認識する上で著しい失敗を示しました。具体的には、F1スコアはランダム推測を下回る0.32および0.37という数値にとどまっています。
一方で、プロンプトベースの適応手法は有害性検出性能を大幅に向上させました。特に、GPT-4oを用いたインコンテキスト学習（ICL）はF1スコアを0.50に、ビジュアル質問応答（VQA）は0.78に改善しました。また、パラメータ効率の良いファインチューニング手法も効果を示し、100未満のデモンストレーションで0.5bから7bの小規模モデルを改善し、最高のF1スコアは0.48および0.59に達しました。しかし、これらのモデルは進化するガイドラインに対して依然として高い感度を持つことが指摘されています。
これらの改善努力にもかかわらず、CTDの性能は、汎用有害性検出で達成されるF1スコア約0.9という水準を依然として大きく下回っています。この現状は、コミュニティ特有の有害性検出分野において、さらなる持続的な研究努力が不可欠であることを強調しています。
参考: arXiv cs.CV (アーカイブ) — 2026年7月29日 13:00 (JST)