リサーチ・論文 2026年8月28日 10:15

arXiv、基盤モデルの教師なしポストトレーニングに関する調査論文を公開

原題 Unsupervised Post-Training of Foundation Models: A Survey

arXivは2026年8月26日(現地時間)、基盤モデル（Foundation Models）の「教師なしポストトレーニング（Unsupervised Post-Training、UPT）」に関する調査論文を公開した。本論文は、人間によるラベル付けや、より強力な教師モデルといった外部のオラクルに依存せず、ラベルなし入力から学習シグナルを得てモデルを適応させる80種類のUPT手法を体系的に分類している。また、内部シグナルやタスク構造の選択が、モデルの性能向上またはエラーの再帰的増幅に与える影響について分析している。

本論文の著者には、イー・ジエ・シュー (Yijie Xu) 氏ら12名が名を連ねている。論文では、予測統計、サンプル関係、自己生成ターゲット、内部評価器という4つのカテゴリに基づき、UPT手法を整理している。これらのカテゴリは、モデルの更新シグナルを供給するオブジェクトによって定義される。

さらに、Input VisibilityとUpdate Persistenceという直交する観点から、デプロイメント体制をマッピングし、UPT手法の選択と評価のための統一フレームワークを提示している。この研究はEMNLP 2026に採択されたと記されている。

参考: arXiv cs.CL — 2026年8月27日 13:00 (JST)

原文ハイライト
"Unsupervised Post-Training (UPT): update-bearing adaptation on unlabeled inputs whose learning signal is derived"

#arXiv #Foundation-Models #Unsupervised-Post-Training #UPT #EMNLP-2026 #Yijie-Xu