Bhanu Tokas氏、Rahul Nair氏、Rockwell Jackson氏、Hannah Kerner氏らの研究チームは10月9日(現地時間)、オンライン学術論文リポジトリarXiv cs.CVで、機械学習のブラックボックスモデルの予測を解釈するための新しい手法「Hide and Seek (HnS)」を発表した。HnSは、モデルの内部構造や大規模な概念アノテーション付きデータセットに依存せず、人間が理解可能な概念を用いて広範なビジョンモデルの解釈を可能にする。
HnSは、既存の概念ベースのアトリビューション（寄与度評価）手法が抱える課題に対応するため提案された。従来の概念ベース手法は、分類や回帰モデルに限定されがちで、モデルの重みへのアクセス、あるいは事前に概念アノテーションが施された大規模データセットを必要とするという制約があった。さらに、ほとんどの手法が画像全体レベルでのアトリビューションに留まり、特定の領域における概念の寄与を詳細に特定できないという問題も指摘されていた。
HnSはこれらの制約を乗り越え、より汎用的な概念レベルのアトリビューションを実現する。その仕組みは、特定の概念と一連の画像が与えられた際、まずビジョン・ランゲージモデルを活用して、その概念に合致する画像を検索することから始まる。次に、HnSは各画像内で該当する概念の領域を精密に特定し、その領域をマスキングする処理を行う。その後、元の画像とマスキングされた画像がブラックボックスモデルに入力され、両者の出力の変化が測定される。この出力変化の度合いに基づいて、特定の概念がモデルの予測にどれだけ寄与しているかというアトリビューションが算出される。
この手法により、モデルの内部構造に立ち入ることなくその振る舞いを直接測定することが可能となる。研究チームは、画像内の局所的な領域における概念の寄与を明確にすることで、モデルの予測に対するより忠実で、かつ人間にとって理解しやすい解釈が提供されると説明している。
研究チームはHnSの有効性を検証するため、広く利用されているCelebAおよびCOCO-Stuffデータセットを用いた実験を実施した。その結果、HnSは既存の概念アトリビューション手法と比較して、グラウンドトゥルース（正解データ）のアトリビューションとのより高い一致度を示すことが実証された。これは、HnSがより正確にモデルの判断根拠を特定できることを示唆している。
さらに、HnSは画像キャプション生成や衛星画像セグメンテーションといった多様なタスクにおいてもその適用可能性を実証した。これらのタスクは、その複雑性や特性から、既存の概念アトリビューション手法では適用が難しい、あるいは利用できないとされてきた分野である。HnSの適用範囲の広さは、機械学習モデルの解釈可能性を多様な応用分野で向上させる可能性を秘めていると見られる。
参考: arXiv cs.CV — 2026年10月10日 02:56 (JST)
原文ハイライト"HIDE Concepts to SEEK explanations for black box models"