LLMの統計的自己整合性違反、論文が「マクロの誤謬」指摘
arXivは7月16日(現地時間)、論文「Partition, Prompt, Aggregate: Statistical Self-Consistency in Language Models」を公開し、大規模言語モデル (LLM) の推定が基本的な確率論的整合性原則に広範に違反していると指摘した。この研究は、LLMがin-context学習において条件付き推論として解釈される場合に、統計的な自己整合性をどの程度遵守するかを調査。その過程で「マクロの誤謬」と名付けられたパターンも明らかにしている。