跳到正文
AGI Hunt· teortaxesTex·· 2 小时前AI 评分38

Qwen3.6/3.8 投机解码实测:最新 draft 模型再提速约 10%

Qwen3.6/3.8 投机解码实测提速,最新 draft 模型再快约 10%

AI 导读

开发者 hikettei 分享了基于投机解码研究加速 Qwen3.6/3.8 推理的成果,并感谢 Metal 端优化的贡献。norpadon 补充称,相关结果来自较旧的基准数据,使用最新发布的 draft 模型后还可再提速约 10%。

来源:AGI Hunt · agihunt.info