Tag
5 件の関連記事
arXiv cs.CLは2026年9月3日(現地時間)、論文「Legibility is Not Interpretability: Comparing Judged and Actual Importance in Chain-Of-Thought Reasoning」を公開した。この研究は、Chain-of-Thought (CoT) モデルの推論過程における「読みやすさ」（legibility）が、必ずしもその「解釈可能性」（interpretability）を保証しない可能性を示唆している。大規模言語モデル (LLM) を用いたCoT推論ステップの評価において、テキスト情報からステップの実際の重要性を判断することには限界があると指摘しており、既存の評価手法に再考を促す内容となっている。
アーマーン・サンドゥ (Armaan Sandhu) 氏らは2026年8月26日(現地時間)、視覚言語モデル LLaVA-1.5-7B がキャプション生成時に画像にない物体を幻覚する問題に対し、その原因となるアテンションヘッドの解釈可能性に基づいた介入手法を提案する研究論文をarXiv cs.CVで公開した。この研究は、特定のヘッドへの介入が幻覚の発生率を大幅に低減することを示している。
Apple ML Researchは2026年7月5日(現地時間)、データアノテーションにおける人間の安全性ポリシーを解釈可能にする「Annotator Policy Models (APMs)」を導入したと発表した。APMsはアノテーターのラベリング行動のみから内部的な安全性ポリシーを学習し、アノテーションの不一致が運用上の問題、ポリシーの曖昧さ、または価値観の多様性のいずれに起因するかを識別する。このモデルにより、アノテーターの推論プロセスを可視化し、安全性ポリシーの設計を支援すると見られる。
Amirreza Esmaeili (アミルレザ・エスマエイリ) 氏とFatemeh Fard (ファテメ・ファルド) 氏は4月30日(現地時間)、大規模言語モデル (LLMs) のコード生成におけるトークンレベルの意思決定を説明・解釈するための対話型ツール「TokenScope」を発表した。このツールは、デコーダーベースのLLMsを対象とし、生成過程におけるトークンレベルの指標、アテンションパターン、および構造情報を提供することで、モデルの透明性を高める。
Chenyu Lian氏らは5月14日(現地時間)、疾患スクリーニング向けフレームワーク「EviScreen」をarXiv cs.CVで発表した。既存の医療画像診断モデルが抱える解釈性の低さや性能不足に対し、過去症例から領域レベルの証拠を用いる証拠推論アプローチを導入。臨床レベルのリコールを維持しつつ特異度を顕著に高め、リアルワールドの疾患スクリーニングにおいて優れた性能と客観的な解釈可能性を実現したと報告されている。