#PCA

Alvarez氏ら、LLM推論誤りを隠れ状態幾何学的変化で検出する新手法

Tyler Alvarez氏らは5月13日(現地時間)、大規模言語モデル (LLM) の多段階推論で生じるハルシネーションをステップレベルで検出する新手法を発表した。これは、既存の検出器が単一の信頼度スコアを割り当てるのに対し、単一フォワードパス中の隠れ状態軌跡に注目。転送コストの局所的逸脱としてエラーを識別することで、高精度な推論誤りの特定を実現する。arXiv cs.CLが報じた。