arXivは2026年8月26日(現地時間)、スパースオートエンコーダ（sparse autoencoders）を用いた粒子物理学におけるメカニスティックな解釈可能性（mechanistic interpretability）の初の応用に関する研究論文を公開した。同論文は、IceCubeデータで事前学習され、方向再構築用にファインチューニングされたニュートリノ基礎モデルの内部表現において、物理概念の検証済みアトラスを特定した。さらに、不確かさヘッド（uncertainty head）を導入することでモデルの角度再構築誤差を予測し、中央値角度分解能を20.2度から3.2度へと大幅に改善した。
この研究は、Raphaël Bonnet-Guerrini、Johann Ioannou-Nikolaides、Inar Timiryasov、Vincenzo Piuriの各氏によって報告された。研究チームは、粒子物理学分野で初めてスパースオートエンコーダに基づいたメカニスティックな解釈可能性を適用した。
具体的には、IceCubeデータで事前学習され、ニュートリノの方向再構築用にファインチューニングされたニュートリノ基礎モデルを対象とした。厳格な検証プロトコル（held-outテスト、一致させた妨害因子制御、独立した辞書トレーニング全体での再現）を用いて、モデルの内部表現に物理概念の検証済みアトラス（atlas of physical concepts）を特定した。
因果介入（Causal interventions）の結果、モデルの方向ヘッド（direction head）がこのアトラスをほとんど利用していないことが示された。研究チームはこの未使用の情報に着目し、同じイベントレベル表現に対して、モデルの角度再構築誤差を予測するための不確かさヘッドをトレーニングした。この不確かさヘッドは、方向ヘッドとは異なり、アトラスから得られた品質および明るさの特性に因果的に依存することが明らかになった。
この解釈可能な推定器（interpretable estimator）を適用した結果、選択効率20%において、ニュートリノ基礎モデルの中央値角度分解能は20.2度から3.2度へと大幅な改善を示した。これらの結果は、メカニスティックな解釈可能性が、モデルの内部表現にエンコードされた学習済みの潜在物理（learned latent physics）を明らかにできる可能性を示唆している。また、それを活用する下流タスク（downstream tasks）の設計にも役立つ可能性を指摘している。
参考: arXiv astro-ph.HE (アーカイブ) — 2026年8月27日 02:53 (JST)
原文ハイライト"mechanistic interpretability can reveal learned latent physics encoded within a model's internal representation"