arXiv cs.AIは2026年9月3日(現地時間)、大規模言語モデル（LLM）の説明における誠実性を改善する新しいテスト時アプローチが提案されたと報じた。この研究は、LLMが提供する説明で、回答に影響を与える要因が省略される「不完全性」に焦点を当てる。既存手法が主に不健全性に対処するのに対し、新アプローチは説明で言及されていない概念を入力から除去し、削減された入力でモデルを再クエリする手法を導入した。これにより、LLMの推論の信頼性と安全性の向上が期待される。
大規模言語モデル（LLM）は、現代社会における重要な意思決定プロセスに利用される機会が増加しており、その説明はモデルの振る舞いを監査するための不可欠なツールとなっている。
しかし、これらの説明が、モデルの実際の推論を正確に反映しない「不誠実」なものであることが課題として指摘されている。不誠実な説明には二つの明確な側面がある。一つは「不完全性」であり、これは説明がモデルの回答に影響を与える重要な要因を省略している状態を指す。もう一つは「不健全性」であり、これは説明がモデルの回答には影響しなかった要因を不適切に引用している状態を指す。
既存のLLM誠実性向上アプローチは、主に訓練時手法とテスト時手法に分類される。訓練時手法はモデルの重み調整と広範な計算資源を要する一方、テスト時手法はこれまで主に不健全性の問題に対処してきた。
今回提案された新しいテスト時アプローチは、特に不完全性の問題に直接的に焦点を当てている。この手法は、モデルの説明で言及されていない概念を元の入力から削除し、その削減された入力を用いてモデルに再度クエリを実行する。このプロセスにより、説明で言及されていないにもかかわらずモデルの決定に影響を与えていた要因（隠れた影響）を排除しつつ、説明で明確に言及された概念の影響は保持される。
このアプローチの有効性は、二つの異なるデータセット、複数のモデルファミリー、および二つの独立した誠実性指標を用いた評価において確認された。標準的なプロンプトや、誠実性を促す特定のプロンプトを用いた場合と比較して、この除去に基づく手法が説明の誠実性を一貫して向上させることが実証された。
この手法は、モデルの内部構造に依存せず（model-agnostic）、モデルパラメータを変更することなく推論時に適用できるという利点を持つ。これにより、隠れた影響を低減し、LLMを活用した意思決定プロセスの信頼性と安全性を高めるための柔軟なメカニズムを提供する。
参考: arXiv cs.AI (アーカイブ) — 2026年9月7日 13:00 (JST)
原文ハイライト"A Removal Based Approach to Improve LLM Faithfulness at Test-Time"