arXiv cs.CVは9月30日(現地時間)、インテリジェント車両の知覚モデルにおける説明可能性（XAI）に関する研究論文を発表した。本研究は、固定されたYOLOv8s歩行者検知器の事後説明が、PIEおよびJAADデータセットを用いた運転ドメインシフト下で忠実性を維持するかを監査。その結果、削除ベースの忠実性が説明時の検知強度と強く関連することが示された。
Ruben Dario Florez-Zela氏による本研究は、YOLOv8s歩行者検知器の事後説明をPIEおよびJAADデータセットで監査した。この監査では、ROIベースのD-Deletion、frozen confidence terciles、rank-based tests、bootstrap intervals、Holm correctionといった手法が用いられた。
監査の結果、削除ベースの忠実性は、説明時の検知強度と強く関連することが判明した。D-RISEにおいては、Spearman correlationsが0.70から0.82の範囲を示し、単純な信頼度層別比較が信頼できないことを示唆している。
f0ビン内で検知強度を制御した後も、D-RISEの忠実性は中央f0レンジでドメイン依存性が残存した。具体的には、PIEはJAADよりも高いD-DeletionとHolm調整済み有意性を示している。非摂動的なEigenCAMベースラインは、D-RISEよりも忠実性が低いものの、同様にスコア結合性を示した。これは、この効果がD-RISEに特有のものではなく、削除ベースの評価設定に関連している可能性を指摘する。
これらの結果は、ドメインシフト下における安全が重要な知覚モデルに対する信頼度制御型のXAI監査の重要性を強調している。本論文は2026 IEEE International Conference on Vehicular Electronics and Safety (ICVES 2026)で採択された。
参考: arXiv cs.CV (アーカイブ) — 2026年10月5日 13:00 (JST)