#HYPOディメンション

LLM内部に法要因の表現を確認、専門家定義の26種が解読可能

Li Zhang氏らは10月19日(現地時間)、arXiv cs.CL上で、大規模言語モデル（LLM）の内部表現に、専門家が定義した26種のCATO要因が線形的に解読可能であることを示す研究結果を発表した。法務分野におけるLLMの知識組織の追跡が困難であるという課題に対し、Qwen3-1.7B、Qwen3-8B、およびGemma-2 2Bの3つのオープンモデルで調査。全てのモデルで26の要因が線形的に解読可能と確認された。