NCP-ArchPreview、新潜在空間言語モデルの技術報告書発表
The Intern-NCP Teamは2026年9月10日(現地時間)、次トークン予測 (NTP) を超える次概念予測 (NCP) を導入した潜在空間言語モデル「NCP-ArchPreview」に関する技術報告書をarXivで公開した。このモデルは8.9億パラメータを持ち、Dolma-3データセットの5.73兆トークンで訓練され、OLMo-3-7Bの最終事前学習損失を51.3%の訓練トークン消費で達成。ダウンストリームマクロ平均で2.45ポイント、GSM8Kで5.99ポイントの性能向上を示した。