arXiv論文、情報圧縮が大規模言語モデルの幻覚メカニズムを解明
arXiv cs.CLは2026年9月10日(現地時間)、論文「The Cost of Compression: A Rate-Distortion Limit on Factual Hallucination」を発表した。この研究は、閉鎖型質問応答 (closed-book question answering) における事実の幻覚が、情報の圧縮に起因する歪みによって生じる可能性を指摘する。従来の説とは異なり、モデル内部に事実が存在しても有限メモリによって近似的に保存される場合にエラーが発生する機構を提示する。