跳到正文
AGI Hunt· Qwen·· 3 小时前AI 评分49

阿里 Qwen 团队发布 SpecOPD:并行在线蒸馏加速投机解码

阿里 Qwen 团队发 SpecOPD:分支并行在线蒸馏加速投机解码

AI 导读

阿里 Qwen 团队联合中科大、浙大、CMU 等机构发布 SpecOPD,通过将草稿采样与目标监督并行化,改进投机解码的在线蒸馏训练。

来源:AGI Hunt · agihunt.info