#Hallucination

脳MRI診断におけるVLM、高確信度エラーが課題

arXivは8月3日(現地時間)付の論文で、視覚言語モデル (VLM) が医療画像診断において、誤った回答に高い確信度を示す「高確信度エラー」が頻繁に発生していると報告した。脳MRIを用いた行動安全監査の結果、回答された項目の33%から46%が高確信度エラーに該当し、モデルの確信度と信頼性に課題が浮き彫りになった。この研究は、医療画像VLMの評価に際し、正解率だけでなく確信度の信頼性も考慮すべきだと提言している。