Qwen3.8-27B低比特量化实测
热点事件持续更新
Qwen3.8-27B低比特量化实测
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
casper_hansen 在 MiMo RL 环境实测 Qwen3.8-27B 的 EXL3 量化性能:BF16 原始精度得分为 63.2%,2 bpw(v1.4.2)约为 55.5%;1.8 bpw 在 v1.4.2 下仅得 2%,升级至 v1.6.4 后回升至 13.2%。 casper_hansen 认为,1.8 bpw 配置中约 27% 的权重被压缩至 1-bit,是模型能力明显下降的原因。该结果反映的是其在 MiMo RL 环境及上述版本、量化配置下的测试表现。
AI 根据报道生成 · 1 小时前更新
最新进展10月24日 00:03
Qwen3.8-27B 低比特量化实测:1.8 bpw 得分降至 13.2%报道时间线
沿着报道,了解事件的不同侧面。
10月24日
- AGI HuntQwen3.8-27B 低比特量化实测:1.8 bpw 得分降至 13.2%
casper_hansen_ 在 MiMo RL 环境实测了 Qwen3.8-27B 经 EXL3 量化后的表现,BF16 原始精度得分为 63.2%,2 bpw(v1.4.2)约为 55.5%。1.8 bpw(v1.4.2)得分仅 2%,升级至 v1.6.4 后回升到 13.2%;其测试中约 27% 的权重被压到 1-bit,作者认为这是模型能力崩塌的原因。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。