Appleが大規模言語モデル研究、自己回帰型と言語拡散型の性能を比較
Appleは2026年8月(現地時間)、大規模言語モデル (LLM) の主要なモデルである自己回帰型言語モデル (ARM) と、新たなパラダイムである拡散型言語モデル (DLM) の性能特性に関する研究結果を発表した。この研究では、DLMが並列生成によって高い演算強度を達成するものの、長文コンテキストではスケールしない課題を指摘。解決策としてブロック単位デコーディングを提示し、さらにバッチ推論ではARMが優位である一方、DLMはサンプリングステップ数削減が低レイテンシ達成の鍵だと結論づけている。