AI Edgeline
最新
ベンダー・製品 OpenAI、ウクライナ政府に「Daybreak」を提供 民間インフラのサイバー防衛支援 リサーチ・論文 Flash-dLLM、拡散型LLMのKVキャッシュI/O問題解消し推論最大11倍高速化 リサーチ・論文 arXiv、MCPエージェント乗っ取る攻撃手法「A2M」の論文公開 ベンダー・製品 OpenAI Academy、開始2周年を報告しAIスキル訓練プログラム拡大を計画 ベンダー・製品 GitHub Blog、AI開発の多角的論点提示　コードレビューやRAGの現状など VC・資金調達 Inertia共同創業者ローソン氏、核融合事業展開 TechCrunch Disruptに登壇 リサーチ・論文 AUDITPLAN、AIモデルの安全性監査強化とアライメント改善 リサーチ・論文 BioPhys-Bridge、学際的科学推論の新ベンチマークを発表 リサーチ・論文 ブロック並列化手法CSBP、拡散言語モデルの長文学習を効率化 リサーチ・論文 arXiv、会話型LLMエージェントのWeb検索特性分析論文を発表 リサーチ・論文 LLMベンチマーク設計変遷を分析 評価要件の変化詳述 リサーチ・論文 主要生成AIアプリのユーザー評価分析、信頼と利用障壁を特定 ベンダー・製品 Benchleader、最新モデルのベンチマーク結果を公開 ベンダー・製品 【速報】Together AI、金融テック企業がDedicated Model Inferenceでコーディングエージェントのトラフィックを効率化 リサーチ・論文 ロボット長期記憶を軽量化する「ワークスペーストークン」開発
1 / 15

Tag

#Flash-dLLM

1 件の関連記事

リサーチ・論文 注目

Flash-dLLM、拡散型LLMのKVキャッシュI/O問題解消し推論最大11倍高速化

Quan Nguyen-Tri氏ら研究者は9月22日（現地時間）、拡散型大規模言語モデル(dLLM)の推論を高速化する新フレームワーク「Flash-dLLM」の論文をarXiv cs.CLに投稿した。トレーニング不要の手法で、KVキャッシュの再利用と並列トークン検証を同時適用する際に生じるGPUメモリI/Oのボトルネックを解消したとする。既存の最先端手法と比較し、最大11倍の速度向上を確認したとしている。

arXiv cs.CL