ケビン・ジャン (Kevin Jiang) 氏らの研究チームは2026年9月25日(現地時間)、生成AIシステムの出力における統計的属性アライメントを改善するための後処理アルゴリズムに関する論文をarXiv (アーカイブ) で公開した。この研究は、ユーザー指定の目標属性分布とAI生成出力の整合性を高めることを目指す。
研究チームは、生成AIシステムにおける出力の後処理を通じて、統計的属性アライメントを確立する手法に関する論文をarXivで公開した。この研究は、生成AIの出力属性分布をユーザー指定の目標に合致させることを目的としており、特に「ブラックボックスアクセス設定」という、ユーザーが生成AIモデルに繰り返しクエリを送信できる状況を想定している。
この研究の動機として、公平性 (fairness) の問題が挙げられている。例えば、性別、人種、年齢カテゴリなどの保護された属性 (protected attribute)が望ましい分布に従うように確保することや、合成データ生成において、生成されたデータがターゲット分布を代表するようにすることが含まれる。研究チームは、共同属性分布が目標に可能な限り近い $m \ge 1$ 個の出力を返すことを目標としている。
研究チームは、厳密なアライメントと近似的なアライメントの両方について、ジェネレーターへの予想クエリ数を最小化するアルゴリズムを開発した。また、要求される出力数 $m$ が無限大に近づくにつれて、これらのアルゴリズムの最適性が示されている。
テキストから画像生成および地理コード化されたペルソナ生成タスクでの実験では、提案された後処理アルゴリズムが統計的属性アライメントを改善することが示された。これは、プロンプトベースの介入を補完するものである。
参考: arXiv stat.ME (アーカイブ) — 2026年9月26日 02:55 (JST)
原文ハイライト"Statistical attribute alignment for black-box generative AI via output post-processing"