Tag
3 件の関連記事
マティアス・オル (Mathias Ollu) 氏とニコス・コモダキス (Nikos Komodakis) 氏らは2026年10月6日(現地時間)、「Denoising Hierarchical Representations: Joint Continuous Diffusion for Language Modeling」と題する研究論文をarXiv cs.CLに公開した。同論文は、階層型連続拡散言語モデル (H-CDLMs) というシンプルなフレームワークを導入し、最小限の計算およびパラメータオーバーヘッドで連続拡散言語モデル (DLMs) の性能を向上させることを提案している。
Appleは2026年8月(現地時間)、大規模言語モデル (LLM) の主要なモデルである自己回帰型言語モデル (ARM) と、新たなパラダイムである拡散型言語モデル (DLM) の性能特性に関する研究結果を発表した。この研究では、DLMが並列生成によって高い演算強度を達成するものの、長文コンテキストではスケールしない課題を指摘。解決策としてブロック単位デコーディングを提示し、さらにバッチ推論ではARMが優位である一方、DLMはサンプリングステップ数削減が低レイテンシ達成の鍵だと結論づけている。
arXiv cs.LGは2026年5月8日(現地時間)、Hanhan Zhou、Shamik Roy、Rashmi Gangadharaiahの3氏による論文を発表した。同論文は、離散拡散型言語モデル（DLMs）における制御生成手法の改善を提案。既存手法が抱える生成品質の低下という課題に対し、属性のコミットタイミングに応じた適応型スケジューラーの有効性を示した。