Tag
3 件の関連記事
arXiv (アーカイヴ) は2026年10月20日(現地時間)、言語モデルのデコーディングを高速化する新たな手法「Adaptive Multi-Token Prediction (AMTP)」に関する研究論文を公開したと発表しました。本手法は、Multi-token prediction (MTP) における最適な予測範囲の動的な選択をオンライン制御問題として定式化。再学習や既存検証器の変更が不要な軽量コントローラーとして設計されています。Llama-3.1-8B-Instructなどを活用した評価では、標準デコーディングと比較して最大4.1倍の高速化を達成し、固定ウィンドウMTP設定の10例中8例で同等以上の性能を示しました。
Googleは2026年6月26日(現地時間)、既存のGemini Nano v3モデルに対し、Multi-Token Prediction (MTP)と呼ばれる新しいアーキテクチャを適用することで、オンデバイス推論を高速化する手法を発表した。この技術は、Pixel 9および10シリーズに既に導入されており、AI Notification SummariesやProofreadといったデバイス上のAI機能の実行速度とエネルギー効率を向上させる。
Z.AIは2026年6月17日(現地時間)、長尺タスク向けフラッグシップモデル「GLM-5.2」を公開した。MITオープンソースライセンスの下で提供される本モデルは、前バージョン「GLM-5.1」から長尺タスク処理能力を大幅に向上させ、安定した1Mトークンのコンテキストを初めて実現。高度なコーディング機能と改良されたアーキテクチャを特徴とし、複雑なタスクへの対応力を高めた。