跳到正文
AGI Hunt· Fudan-University·· 2 小时前AI 评分45

复旦 D3D 论文:解耦扩散草稿模型实现异步投机解码加速

复旦 D3D 论文:解耦扩散草稿模型实现异步投机解码加速

AI 导读

复旦大学等机构发布论文 D3D(Decoupled Diffusion Drafting),提出独立的扩散草稿模型,移除对目标模型隐藏状态的依赖,实现异步投机解码。该方法结合分块去噪与辅助自回归监督,可在验证期间一次性打包生成后续块;36 层中移除 5 层后仍保留超 99% 的平均接受长度,大幅降低打包草稿成本。

来源:AGI Hunt · agihunt.info