AGI Hunt· casper_hansen_·· 2 小时前AI 评分56
Qwen3.8-27B 低比特量化实测:1.8 bpw 得分降至 13.2%
Qwen3.8-27B 低比特量化实测:1.8bpw 得分崩至 13%
AI 导读
casper_hansen_ 在 MiMo RL 环境实测了 Qwen3.8-27B 经 EXL3 量化后的表现,BF16 原始精度得分为 63.2%,2 bpw(v1.4.2)约为 55.5%。1.8 bpw(v1.4.2)得分仅 2%,升级至 v1.6.4 后回升到 13.2%;其测试中约 27% 的权重被压到 1-bit,作者认为这是模型能力崩塌的原因。
来源:AGI Hunt · agihunt.info