跳到正文
AGI Hunt· AIFlow_ML·· 2 小时前AI 评分49

微调 Qwen3-27B 导出 Hugging Face 时丢失 MTP 头,解码变慢难察觉

微调 Qwen3 后导出丢失 MTP 头,解码悄悄变慢无人察觉

AI 导读

修改 Qwen3-27B 并导出到 Hugging Face 后,整个 MTP 头(draft/投机解码模块)被丢弃,导致输出答案仍正常,但解码速度变慢,因此问题不易被发现。建议每次模型导出前后都 diff 一遍 tensor 名称,确认模型结构完整。

来源:AGI Hunt · agihunt.info