Organizers of QueerInAIは2026年11月3日(現地時間)、AIシステムがクィアコミュニティに与える害に関する研究結果を発表した。この研究では、AIシステムが学習データや評価指標、カテゴリ定義に多数派グループの既定値を組み込むことで、クィアコミュニティに対し、存在の抹消、誤分類、差別といった既知の害を引き起こしていることを指摘している。
標準的な技術監査は集合的尺度に依存するため、影響を受けるコミュニティの生きた経験を通じてのみ可視化される害を検出できないという。
研究チームはEurIPS 2025で参加型監査ワークショップを実施した。このワークショップには16人のクィアコミュニティメンバーが参加し、AIライフサイクル全体に適用される4Csハーム分類法（Content, Conduct, Contact, Contract）を用いて4つのケーススタディを監査した。参加者は構造化されたワークシートと全体会議での統合分析を活用し、害を分類し、その発生源を開発パイプライン内で追跡した。
全4ケースにおいて、参加者は害の原因が問題定義とデータ収集にあることを特定した。また、脆弱な集団から価値を抽出しながら最小限の救済しか提供しない契約構造も特定した。これらの知見は、コミュニティ主導の監査が、集合的評価方法では見過ごされがちな、具体的でアイデンティティに特化した害を表面化させることを示唆している。
参考: arXiv cs.CL — 2026年11月4日 14:00 (JST)
原文ハイライト"community-informed auditing surfaces concrete, identity-specific harms that aggregate evaluation methods risk overlooking."