DStill蒸馏扩散轨迹加速推测解码

DStill研究团队提出轨迹一致性蒸馏方法，将块扩散推测解码的多步去噪轨迹压缩为单次前向完成单步起草，并用课程学习缓解token因子化误差导致的草稿不一致。该方法在三个模型家族的推理、数学和代码基准上提高了草稿接受长度；团队称，相比自回归解码最高可提速6.45倍。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。