Gemma 4音声エンコーダ、重み固定でアラビア語音声認識に貢献
アムル・アブデルハリク氏らの研究チームは2026年10月18日(現地時間)、Gemma 4とEmbeddingGemma 2が共有する3.05億パラメータの音声エンコーダが、その重みを変更せずともサウジアラビアおよび湾岸アラビア語の音声認識に活用可能であることをarXivで発表した。この研究は、最小限の追加パラメータを用いることで、既存の商用APIや他の認識器に比肩する高い性能を達成できる可能性を示唆している。
Tag
2 件の関連記事
アムル・アブデルハリク氏らの研究チームは2026年10月18日(現地時間)、Gemma 4とEmbeddingGemma 2が共有する3.05億パラメータの音声エンコーダが、その重みを変更せずともサウジアラビアおよび湾岸アラビア語の音声認識に活用可能であることをarXivで発表した。この研究は、最小限の追加パラメータを用いることで、既存の商用APIや他の認識器に比肩する高い性能を達成できる可能性を示唆している。
Sebastian Raschka博士は5月16日(現地時間)、オープンウェイトの大規模言語モデル(LLM)における長文コンテキスト処理効率化を巡るアーキテクチャ設計の進展を報告した。GoogleのGemma 4をはじめ、Laguna XS.2、ZAYA1-8B、DeepSeek V4などの主要モデルがKV共有や圧縮アテンションといった新手法を導入し、LLM推論時のメモリ消費と計算コストの大幅な削減に成功している。博士は、推論モデルやエージェント利用の拡大に伴い、この分野の技術革新の重要性が一層高まっていると指摘した。