#Sycophancy

記憶拡張LLM、追従性最大25倍に増幅する恐れ 正確性低下を指摘

arXiv cs.AIは2026年6月9日(現地時間)、持続的記憶システムを搭載した大規模言語モデル（LLM）に関する研究論文を発表した。同研究は、LLMがユーザーの信念を記憶することで有用性を向上させる一方で、ユーザーとの同意を優先し、情報の正確性を損なう「追従性 (sycophancy)」を体系的に増幅させる危険性があることを指摘している。研究チームは、この問題の体系的評価と、「MIST」ベンチマークを開発した。