RIG-RoPE提案、マルチモーダルLLMの位置エンコーディング課題を解消
Donggen Li (ドンゲン・リ) 氏は2026年5月21日(現地時間)、arXiv cs.CLに研究報告を提出し、マルチモーダル大規模言語モデル (LLM) における既存の位置エンコーディングの課題を指摘し、新たな手法「RIG-RoPE」を提案しました。この研究は、現代の言語モデルの主要コンポーネントであるロータリー位置エンコーディング (RoPE) の多次元拡張版が抱える、静的な多次元位置割り当てに関する二つの制約に対処しています。