Tag
4 件の関連記事
arXiv cs.LGは10月3日(現地時間)、脳波 (EEG) データ解析の汎用モデル構築における長年の課題に対処するため、新たな基盤モデル「SPERA (Spherical Prior EEG Representation Architecture)」が開発されたと報じた。本モデルは、従来の観測信号に基づく手法とは異なり、joint-embedding predictive architecture (JEPA) をlatent space (潜伏空間) で採用し、多様な脳波データの異質性に対応する高精度な予測を実現している。
arXiv cs.AI は2026年10月7日(現地時間)、潜在世界モデル「RoboJEPA」に関する研究論文を公開した。Joint Embedding Predictive Architecture (JEPA) に基づくこのモデルは、12種類のロボット筐体にまたがる大規模データセットで訓練され、その想像エラーが計算量に関して2次べき乗則に従うことを示した。これにより、モデル品質の予測が可能となり、実ロボット評価の代替となる計画性能の相関も確認された。
研究者らは9月1日(現地時間)、JEPA (Joint Embedding Predictive Architecture) スタイルのワールドモデルで新たな課題を発見し、その解決策を発表した。彼らは、潜在空間モデルが重要な物理特性を捉えきれない『物理的表現怠惰』と呼ばれる失敗モードを特定。これを克服するため、訓練時に軽量な『Fourier auxiliary head』を用いる手法を提案した。このアプローチにより、推論時の追加コストなしに潜在空間へ物理情報に基づく構造化を促し、計画性能の大幅な向上を実現したという。
Aimen Boukhari氏は2026年4月16日(現地時間)、言語表現学習のための新たな自己教師あり事前学習手法を提案した。これは、Masked Language Modelling (MLM) が表層的なトークン同一性に基づく表現を促す課題に対応する。提案手法は、Joint Embedding Predictive Architectures (JEPA) に着想を得たハイブリッドな事前学習目的を採用し、JEPA形式の潜在空間予測損失と標準MLM目的を単一エンコーダー上で結合。深い意味構造を捉える表現の生成を目指す。