arXiv cs.CVは2026年8月4日(現地時間)、査読前プレプリントとして、マルチモーダル大規模言語モデル（MLLM）向けの並列ビジョン-言語（ParVL）スケーリングフレームワークに関する論文を公開しました。本フレームワークは、既存のビジョン・トランスフォーマー（ViT）および大規模言語モデル（LLM）のバックボーンパラメータを複数のビジョンおよび言語ブランチ間で再利用することで、並列計算を効率的に拡張することを目指しています。これにより、従来のMLLMスケーリング戦略が直面するメモリオーバーヘッドや推論レイテンシの課題に対応します。
多くのマルチモーダル大規模言語モデル（MLLM）における既存のスケーリング戦略は、モデルパラメータまたはシーケンシャルな推論計算を拡張する手法が一般的です。しかし、これらの手法は、実質的なメモリオーバーヘッドや推論時のレイテンシ増加を伴うことが課題となっていました。さらに、従来のモデルでは、ビジョン・トランスフォーマー（ViT）エンコーダと大規模言語モデル（LLM）デコーダといった主要コンポーネント間の計算配分が固定されており、特定のタスクに最適化された柔軟な計算リソースの割り当てが難しいという制約がありました。
今回発表された査読前プレプリントにおいて、研究者らはこれらの技術的課題に対処するため、並列ビジョン-言語（ParVL）フレームワークを提案しています。ParVLは、固定されたバックボーンパラメータ予算内で、ビジョンと言語のモダリティ間で追加の共有バックボーン計算を効率的に配分すべきかという問いに対し、解決策を提示します。本フレームワークは、各並列計算ストリームを、共有バックボーン上にブランチ固有のプレフィックスパラメータを用いてインスタンス化するというアプローチを採用しており、これによりモデル全体のスケーラビリティと柔軟性の向上を図ります。既存の並列スケーリング手法が主にモデルサイズやシーケンシャル計算の拡張に焦点を当てるのに対し、ParVLはパラメータの再利用とブランチ固有のプレフィックスを通じて、より効率的な並列計算の配分を目指します。
研究者らは、このParVLモデルの有効性を検証するため、広範な実験を実施したと報告しています。具体的には、約130億トークン規模のデータセットを用いて、モデル全体をエンドツーエンドでフルパラメータの教師ありファインチューニングを通じて訓練したと述べています。この訓練プロセスにおいて、ViTエンコーダとLLMデコーダ間の計算配分トレードオフについて体系的な調査を行ったとされ、各タスクの特性に応じた最適な計算リソースの割り当てパターンを特定することを目指しました。
実験の結果、ParVLフレームワークは、同一の設計レシピに基づく単一ブランチのベースラインモデルと比較して、全体的なマルチモーダル性能において向上を示したと研究者らは主張しています。例えば、複数のベンチマークにおける平均性能で改善が確認されました。これは、ParVLの提案する並列計算と柔軟な計算配分戦略が、MLLMの性能向上に有効である可能性を示唆するものです。さらに、最適なビジョン-言語配分は、タスクの種類によって異なることが明確に判明したと報告されており、この知見は、特定のマルチモーダルタスクに対してモデルを最適化する際に、計算リソースの割り当て戦略を調整することの重要性を示唆しています。本研究に関連するコードは、このURLで公開されています。
参考: arXiv cs.CV (アーカイブ) — 2026年8月5日 02:59 (JST)
原文ハイライト"Existing scaling strategies for Multimodal Large Language Models (MLLMs) typically expand either model parameters"