アムル・アブデルハリク氏らの研究チームは2026年10月18日(現地時間)、Gemma 4とEmbeddingGemma 2が共有する3.05億パラメータの音声エンコーダが、その重みを変更せずともサウジアラビアおよび湾岸アラビア語の音声認識に活用可能であることをarXivで発表した。この研究は、最小限の追加パラメータを用いることで、既存の商用APIや他の認識器に比肩する高い性能を達成できる可能性を示唆している。
アムル・アブデルハリク氏らの研究チームは、Gemma 4とEmbeddingGemma 2が共有する3.05億パラメータの音声エンコーダの潜在能力を、その重みを一切変更せずに調査した。研究の焦点は、サウジアラビアおよび湾岸アラビア語の音声認識におけるその応用可能性である。
「Frozenシステム」と称される初期構成では、エンコーダ層の組み合わせの上に2260万パラメータのCTC（Connectionist Temporal Classification）リーダーのみを学習させた。このシステムは、同一音声で再実行された20.7億パラメータのコヒア・トランスクライブ・アラビック（Cohere Transcribe Arabic）と比較して、単語誤り率（WER）では劣ったものの、6つの人間がラベル付けした条件のうち5つで文字誤り率（CER）において統計的な差は認められなかった。さらに、CPU上でGreedyデコーディングを使用した場合、このFrozenシステムはコヒアのシステムよりも3.4倍高速に動作することが確認された。
次なる「Adaptedシステム」では、310万の低ランクアダプタパラメータと4150万パラメータのハイブリッドCTC/アテンションリーダーが追加された。このシステムは、サブワード言語モデルとの共同デコーディングを特徴とする。この構成では、パブリックなサウジアラビアの顧客サービスコール（WER 19.20%対19.27%）とクリーンなエミラティ音声において、WERで統計的な差は観測されなかった。特に、電話コード化されたエミラティ音声においては顕著に優れ、これらのセットの全6条件でCERが著しく低かった。
Adaptedシステムはまた、SADAでファインチューニングされた6億パラメータの認識器を、WERにおいて全6条件で上回った。ただし、長尺のサウジアラビア音声では、コヒアのシステムにWERで劣る結果となった。ブラインドテストされ、人間が修正したコールセンターのパブリックサンプルでは、15システム中4位にランクされ、3つの商用APIに次ぐ成績を示している。最適化された共同デコーダを使用した場合、1つのGPUで実時間比139倍の速度で動作する。
関連するコードと公開セットの結果は既に公開されている。
参考: arXiv cs.CL (アーカイブ) — 2026年10月22日 13:00 (JST)
原文ハイライト"without changing any of its weights"