跳到正文
热点事件持续更新

Uno用扩散草稿与自回归校验加速LLM

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

Subham Sahoo团队提出Uno:先以扩散权重并行生成整块token草稿,再由未改动的自回归权重进行校验,以减少大语言模型的逐token生成开销。论文报告称,该方法推理速度超过DFlash、EAGLE-3等投机解码方法,生成质量优于Mercury 2、Diffusion Gemma和Llada,并可直接应用于Qwen3-8B等开源模型。 这项方法结合了扩散模型的并行生成能力与自回归模型的原有权重;其“无损加速”及速度、质量优势是论文和哈佛Kempner研究所介绍中的测试结论。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月10日
  1. AGI Hunt
    Uno 论文:用 AR 权重校验扩散草稿,实现 LLM 无损加速

    Uno 论文提出结合扩散式并行生成与自回归 LLM 的方法,以 Diffusion 权重一次草拟整块 token,并由未改动的 AR 权重校验。其速度超过 DFlash、EAGLE-3 等投机解码方法,质量优于 Mercury 2、Diffusion Gemma、Llada。该方法可直接构建在 Qwen3-8B 等开源模型之上。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。