arXivは10月30日(現地時間)、AIシステムの基盤となる埋め込みモデルに関する包括的な調査論文「From Fragmentation to Fusion: A Survey and Roadmap for Omnimodal Embeddings」を提出した。論文は、異なるデータ形式（モダリティ）間の埋め込み研究における分断を指摘しつつ、コントラスティブ学習（Contrastive learning）やTransformerアーキテクチャといった進展が共通の原則へと研究を収束させていると論じている。統一的なアプローチに向けた三段階の能力フレームワークも提示されている。
この論文は、検索エンジンやレコメンデーションシステムなど、現代の多様なAIシステムを支える埋め込みモデル（Embedding models）の研究状況について深く考察している。数学的基盤を共有するにもかかわらず、埋め込みモデルの研究はモダリティ（異なるデータ形式）ごとに分断され、それぞれの研究コミュニティが孤立し、知見の交換機会が限られている現状を指摘する。
しかし、コントラスティブ学習（Contrastive learning）、Transformerアーキテクチャ（Transformer architecture）、および粒度シフトといった要因が、モダリティを横断した埋め込み研究を共通の原則へと導いていると論文は述べている。この収束を整理するため、論文は「網羅性（coverage）」、比較可能性（comparability）、構成可能性（compositionality）という三段階の能力を段階的に難易度の高いフレームワークとして提案した。
これらの能力を満たす統一への三つの道筋として、変換（transformation）が網羅性を広げ、アライメント（alignment）が比較可能性を可能にし、そして最終的な目標として提唱する結合埋め込み（joint embedding）が構成可能性を目指すとされる。ジイン・チャン（Ziyin Zhang）氏を含む18名の著者は、この進化を追跡し、オムニモーダル埋め込み（Omnimodal embeddings）研究に対する初の統一的かつ横断的な考察を提供している。
参考: arXiv cs.CL — 2026年11月4日 14:00 (JST)
原文ハイライト"From Fragmentation to Fusion: A Survey and Roadmap for Omnimodal Embeddings"