Apple ML Researchは2026年10月(現地時間)、多言語自己教師あり音声モデルにおいて、言語判別能力を強化することが言語学習の改善につながるという研究成果を発表した。同等の事前学習データ量では単一言語モデルに及ばなかった多言語モデルの性能ギャップを、言語判別の強化によって縮小、一部尺度では解消できる可能性を示した。
この研究はLanguage Discrimination Improves Linguistic Learning in Multilingual Speech Modelsと題された論文で発表された。研究チームは、言語判別能力の強化が、連続音声的および高水準言語的尺度の両方で多言語モデルと単一言語モデル間のギャップを減少させ、同時に有意な言語間共有を維持すると主張している。
制御された英語とフランス語のHuBERT設定を用いた実験では、言語判別を強化するための二つの介入がテストされた。一つは補助言語分類器の導入、もう一つは各言語ごとのk-means目標の活用である。
実験の結果、音声素子判別エラー（phone-ABX）はバイリンガルベースラインの11.6%から10.4%に減少した。これは単一言語モデルの10.8%をも下回る数値である。語彙性能（sWUGGY）は52.1%から56.7%に向上し、単一言語モデルの58.5%に肉薄した。また、韻律性能（ProsAudit, 語彙サブタスク）は68.9%から72.9%に増加し、単一言語モデルの72.6%を超える結果を示した。これらの数値は、言語判別の強化が多言語モデルの性能を単一言語モデルのレベルに近づける効果があることを示している。
HuBERTの訓練段階を通じて、ほとんどの言語学的尺度で最大の向上は、訓練の最初のイテレーションで言語判別を導入した際に発生することが観察された。その後の介入や繰り返しの介入では、改善は比較的小さく、言語ごとの分離の増加を伴う傾向が見られた。これらの発見は、多言語学習における追加コストを削減する上で、言語判別が因果的な役割を果たすことを裏付けている。
Apple ML Researchは過去にも多言語モデルに関する研究を発表している。2025年(現地時間)にはLeveraging Audio-Visual Data to Reduce the Multilingual Gap in Self-Supervised Speech ModelsをICASSPで、同じく2025年(現地時間)にはDiscriminating Form and Meaning in Multilingual Models with Minimal-Pair ABX TasksをEMNLPでそれぞれ発表している。これらの研究は、多言語音声モデルの性能向上への継続的な取り組みを示している。
参考: Apple ML Research (アーカイブ) — 2026年10月2日 09:00 (JST)
原文ハイライト"Language Discrimination Improves Linguistic Learning in Multilingual Speech Models"