ヤルダ・タヘリ (Yalda Taheri) 氏らの研究チームは2026年10月23日(現地時間)、学術論文投稿サイトarXivを通じて、ペルシア語向けの高密度検索モデル「Yalda-Embedding」を発表した。同モデルはQwen3-Embedding-0.6Bを基盤とし、100万組以上のクエリ・ドキュメントペアで学習された5.958億パラメータのモデルである。FaMTEBの8つのペルシア語検索タスクにおいて、評価された0.6Bモデルの中で最高のマクロ平均0.5488を達成し、既存の同規模モデルを上回る性能を示した。
Yalda-Embeddingは、Qwen3-Embedding-0.6Bから派生したモデルであり、ペルシア語固有の訓練リソースの制約に対応するために開発された。評価では、Qwen3-Embedding-0.6BおよびF2LLM-v2-0.6Bを全てのタスクで凌駕したほか、より大規模なQwen3-Embedding-4Bにも匹敵する性能を見せた。具体的には、Qwen3-Embedding-4Bと比較して4つのタスクで優位に立ち、1つのタスクで同等、マクロ平均ではわずか0.0075ポイントの差であった。
開発プロセスでは、対照的バッチサイズ、最適化の安定化、そしてF2LLM-v2-8Bからのリレーショナル知識蒸留に関する段階的なアブレーション研究が実施された。1エポック訓練設定の下、対照的ファインチューニング単独では平均的な改善は modest であり、2つのタスクで回帰が見られた。
最終的に採用された知識蒸留構成は、非蒸留モデルと比較して8つの全タスクで性能を向上させ、平均スコアを0.4813から0.5488に引き上げた。この性能向上は、推論時のモデルサイズを増大させることなく達成されており、明示的にマイニングまたは供給されたハードネガティブを用いずに訓練されたにもかかわらず、ハードネガティブ評価タスクにおいても向上を示している。研究チームは、モデルウェイト、訓練および評価コード、ペアワイズデータセット、およびそのティーチャー埋め込み版を公開している。
参考: arXiv cs.CL (アーカイブ) — 2026年10月24日 02:30 (JST)
原文ハイライト"Yalda-Embedding: Open Development of a Competitive Persian Retrieval Model"