言語モデルが虚偽生成、回答形式の強制が原因と論文指摘
研究論文「PhantomFill: When the Form Demands an Answer, Language Models Invent One」は2026年6月11日(現地時間)、言語モデルがJSONフィールドや関数引数といった特定の形式で回答を求められた際、根拠となる情報がない場合でも虚偽情報を生成する「虚偽生成（hallucination）」を引き起こす可能性を指摘した。同研究は回答不能な入力に対し13のモデルをテストし、回答形式の変更が虚偽生成を誘発する主要因であることを実証した。この現象は、生産環境におけるモデルの信頼性に課題を提起する。