Apple、生成言語モデル事前学習で「拡大と枝刈り」を統合
Apple ML Researchは2026年8月25日(現地時間)、生成言語モデルの事前学習における「拡大と枝刈り (enlarge-and-prune)」パイプラインを統合する新たな手法「IDEA Prune」を発表した。大規模言語モデルの限られた推論予算内で効率的かつ展開可能なモデルへの需要が高まる中、従来の枝刈り研究でしばしば無視されてきた拡大モデルの事前学習の統合を提唱している。研究チームは、拡大モデルが展開されない場合でも事前学習の価値があるか、および枝刈りモデルの性能向上に向けたパイプライン全体の最適化方法という2つの重要な課題に取り組んだ。