arXiv cs.LGは11月5日(現地時間)、公開した論文で、予測ファウンデーションモデルを時系列分類器として活用する際の性能検証結果を明らかにした。同研究によると、これらの事前学習済み表現は、既存の強力な分類器と比較して優位性を示さなかった。特にラベル付きデータが不足する状況下での有用性に疑問を呈する結果となり、ReversoとChronos-Boltの2モデルをMONSTERベンチマークで評価した。
この研究は、事前学習を必要としない既存の強力な分類器と比較して、予測ファウンデーションモデルの事前学習済み表現が時系列分類において有用な情報を提供するかどうか、特にラベル付きデータが不足している状況下で疑問を投げかけている。論文の著者には、リシット・ジェイン (Rishit Jain)、リシット・カー (Rishit Kar)、チェタシュリ・バダーン (Chetashri Bhadane)、ナイレッシュ・パティル (Nilesh Patil) 氏らが名を連ねる。
評価には、Reverso（リバーソ）とChronos-Bolt（クロノスボルト）という2種類の予測モデルが用いられた。これらのモデルから得られた凍結表現は、大規模時系列ベンチマークMONSTER（モンスター）から選定された6つのデータセット上で詳細に評価された。トレーニングに使用するラベル付きデータの割合は、利用可能な総数の1%、10%、100%の3段階で設定された。比較対象として、4つの既存の時系列分類手法と、同じ予測モデルのランダムウェイト版が用いられ、性能が詳細に分析された。
評価の結果、事前学習はランダムウェイト版と比較して、対象となった6つのデータセット中5つで分類精度を向上させ、最大で23パーセントポイントのゲインを記録した。しかしながら、凍結された表現は、最強の事前学習なしベースラインを確実に上回ることはなかった。具体的には、17の実験設定中15の設定で性能が劣り、残りの2設定では同等の性能を示すに留まった。
さらなる実験が実施され、振幅情報（amplitude information）の復元が、性能のギャップの一部を回復させることが示された。一方で、ファインチューニングや予測誤差特徴量（forecast-error features）の利用は、この性能ギャップを完全に埋めるには至らなかった。これらの発見は、時系列分類における予測ファウンデーションモデルを評価する際に、強力なタスク固有のベースライン設定と、ランダムウェイトによるコントロールグループの重要性を強調している。
参考: arXiv cs.LG (アーカイブ) — 2026年11月6日 14:00 (JST)