リトルラーナー：知識曝露を教育的に制御したLLM論文発表
Fanfei Liらの研究チームは8月13日(現地時間)、知識曝露を教育的に制御する言語モデル「リトルラーナー (LittleLearner)」に関する研究論文をarXiv cs.CLに発表した。現代のLLMが抱える知識習得過程の不明瞭さという課題に対し、米国小学校カリキュラムに沿って構築された880億トークンの事前学習コーパス「リトルカリキュラム (LITTLECURRICULUM)」を開発。このコーパスで訓練された50億パラメータのLLMがリトルラーナーであり、その知識と能力の境界を明確にすることを目指す。