Apple研究、低リソース言語のデータ混合がハイパーパラメータ調整上回ると判明
Appleは2026年10月12日(現地時間)、研究ブログ「Apple ML Research」で、データ制約下における言語モデル事前学習に関する研究結果を公表した。低リソース言語モデルの汎化性能向上において、高リソース補助言語とのデータ混合がハイパーパラメータ調整よりも優れた効果を示すとしている。データ混合は検証損失で目標データの2~3倍、下流タスク精度では2~13倍に相当する性能向上をもたらすと報告した。
Tag
2 件の関連記事
Appleは2026年10月12日(現地時間)、研究ブログ「Apple ML Research」で、データ制約下における言語モデル事前学習に関する研究結果を公表した。低リソース言語モデルの汎化性能向上において、高リソース補助言語とのデータ混合がハイパーパラメータ調整よりも優れた効果を示すとしている。データ混合は検証損失で目標データの2~3倍、下流タスク精度では2~13倍に相当する性能向上をもたらすと報告した。
arXiv cs.AI が2026年9月10日(現地時間)付けで、言語モデルエージェント(language model agents)における長期タスク(long-horizon tasks)の実行方法に関する研究論文を発表した。同論文は、既存の「エージェントスキル(agent skills)」方式がコンテキストウィンドウの情報量増加によって推論品質が劣化する課題を指摘。スキルパッケージを「サブエージェント(subagents)」として呼び出す代替アプローチが、特定の条件下で優れた性能を示すことを明らかにしている。