AGI Hunt· LucaAmb·· 3 小时前AI 评分43
MDraft 用 on-policy 蒸馏改进扩散 drafter，接受长度最高提升 13.4%
MDraft 用 on-policy 蒸馏改进扩散 drafter,接受长度最高提升 13.4%
AI 导读
MDraft 通过 on-policy 蒸馏改进 speculative decoding 场景中的扩散 drafter，在 T=1 时相对 DFlash 提升平均接受长度。
来源：AGI Hunt · agihunt.info