JEPAスタイルワールドモデル、物理的潜在構造化で性能向上 新たな失敗モードを克服
研究者らは9月1日(現地時間)、JEPA (Joint Embedding Predictive Architecture) スタイルのワールドモデルで新たな課題を発見し、その解決策を発表した。彼らは、潜在空間モデルが重要な物理特性を捉えきれない『物理的表現怠惰』と呼ばれる失敗モードを特定。これを克服するため、訓練時に軽量な『Fourier auxiliary head』を用いる手法を提案した。このアプローチにより、推論時の追加コストなしに潜在空間へ物理情報に基づく構造化を促し、計画性能の大幅な向上を実現したという。