arXiv cs.AIは10月11日(現地時間)、論文「Faithfulness Without Anchors: A Position Paper on the Structural Misalignments of Explainable AI Faithfulness Metrics for Feature Importance」を公開した。同論文は、説明可能な人工知能 (XAI) ツールの忠実性評価指標に存在する構造的な乖離について考察している。マルコ・ズーリッチ (Marco Zullich) 氏らが発表したこのポジションペーパーは、XAIが信頼性向上という当初の目的を果たせず、予測への過度な依存を助長する現状を指摘する。
説明可能な人工知能 (XAI) ツールは、機械学習モデルのアルゴリズムを人間が理解しやすくすることで、モデルへの信頼を高める手法として提示されてきた。
しかし、過去10年間に蓄積された証拠は、この目的が全体として失敗に終わっていることを示しており、誤った予測への過度な依存を助長し、結果としてアルゴリズムへの忌避感につながる可能性があると、本論文は指摘する。本論文では、XAIがむしろ、モデルが学習した特徴に関する断片的な洞察を得るためのデバッグツールとして主に機能すると論じている。
この限界の根底にある主要な問題の一つは、XAI手法がモデルの内部動作を過度に単純化してしまうことである。これにより、説明とモデル自体との間に不整合が生じ、この振る舞いは不忠実性 (unfaithfulnessまたはinfidelity)と呼ばれている。忠実性 (Faithfulness)とは、説明とモデルとの近似度と解釈される。厳密な方法で忠実性を計算することで、説明の信頼性を構成する様々な要素の一つを定量化することが可能になる。
しかし、既存の忠実性指標には重大な限界がある。これらの限界により、忠実性の定量化が非現実的であるか、または計算コストが高くなるという課題が提起されている。
マルコ・ズーリッチ (Marco Zullich) 氏、エミリー・シラー (Emily Schiller) 氏、イワン・ジェンティーレ (Ivan Gentile) 氏、デビッド・デミンスキー (David Dembinsky) 氏、アドリアーノ・ルチェーリ (Adriano Lucieri) 氏、キリアン・ゴラー (Kilian Göller) 氏、ステファン・ザイツ (Steffen Seitz) 氏らによる本ポジションペーパーでは、現在の忠実性指標に存在する主要な5つの欠点と、その信頼性を強化するための4つの研究アプローチが提案されている。この研究は、IJCAI-ECAI 2026 Workshop on Explainable Artificial Intelligence (XAI) で発表された。
参考: arXiv cs.AI (アーカイブ) — 2026年10月12日 13:00 (JST)
原文ハイライト"Faithfulness Without Anchors: A Position Paper on the Structural Misalignments of Explainable AI"