跳到正文
AGI Hunt· rasbt·· 2 小时前AI 评分28

研究员发现 Qwen 0.6B 后训练模型 MATH 表现异常

AI 导读

Sebastian Raschka 与 lateinteraction 发现,Qwen 0.6B 后训练模型在 MATH 基准上的表现异常出色且偏离预期,lateinteraction 称 instruction 版本“有点烧坏了”。双方确认 Qwen base 模型行为本身也异常,并疑似问题源于权重中的一个小 bug。

来源:AGI Hunt · agihunt.info