ケビン・チャン氏とスティーブン・ベイツ氏は2026年10月6日(現地時間)、arXivで論文「Conformal Prediction Sets Quantify Information Gain: A Theoretical Perspective」を発表した。本研究は、不確実性定量化ツールとして普及しているコンフォーマル予測が生成する予測セットのサイズと情報利得との関連性を理論的に明確にすることを目的としている。
コンフォーマル予測（Conformal prediction）は、有限サンプルカバレッジ保証を備えた予測セットを出力することで、不確実性を定量化する手法である。これまで予測セットのサイズは不確実性のヒューリスティックな尺度として用いられてきたが、その情報理論的な根拠は十分に理解されていなかった。
本研究では、セット値予測に特化したエントロピーの意思決定理論的汎化を用いて、この解釈の基礎を提供した。具体的には、コンフォーマル予測セットのサイズとカバレッジに基づく一般化された情報尺度群を導入した。特筆すべき点として、シャノン相互情報量（Shannon mutual information）はこれらの尺度を用いて正確な積分表現を持つことが示された。
さらに、標準的な分類設定において、追加情報によるコンフォーマルセットサイズの削減が、この尺度群のうちキャリブレーション依存のメンバーの間に挟まれ、かつデータ処理不等式に従うことを示した。これらの結果は、コンフォーマル予測と古典的な情報理論的量を形式的に関連付け、セットサイズ削減を情報利得の指標として用いることを正当化する。
実証実験では、11の分類設定においてこの理論を検証し、セットサイズ削減とシャノン相互情報量が、貪欲な特徴選択実験において特徴を異なる方法でランク付けする可能性を示している。
参考: arXiv cs.LG (アーカイブ) — 2026年10月7日 02:59 (JST)
原文ハイライト"Conformal prediction is a popular tool for uncertainty quantification that outputs prediction sets"