跳到正文
AGI Hunt· textclf·· 1 小时前AI 评分55

Qwen3.8-27B 量化评测:CQ 4-bit 持平 BF16,NF4 在 GSM8K 掉 12 分

CQ 4-bit 量化持平 BF16,NF4 在 GSM8K 掉 12 分

AI 导读

textclf 在 Qwen3.8-27B 上重新评测免校准 4-bit CQ 与 bitsandbytes NF4,CQ 4-bit(18 GB)与 BF16 的 9 项任务结果均无显著差异,NF4(22.4 GB)在 GSM8K 掉 12.0 分,低于 CQ 8.7 分。

来源:AGI Hunt · agihunt.info