AGI Hunt· Plastic-Stress-6468·· 3 小时前AI 评分18
Reddit 求证 DeepSeek v4.1 在 1-3 bpw 极低量化下的实际可用性
DeepSeek v4.1 在 1-3 bpw 极低量化下还真能用?Reddit 求实测证言
AI 导读
Reddit 用户 Plastic-Stress-6468 发帖征集 DeepSeek v4.1-1017 在 1-3 bpw 极低量化下的实测体验,核实其能否在廉价硬件上真正用于工作,而非仅作猎奇玩具。发帖者称此前 v4-0731 的 Q2 效果远逊于全重量 Q8,而 Q8 已接近 QAT 过的 Q4,再降 2 bpw 表现明显劣化,并希望与 3.8FN 等更高量化模型对比。
来源:AGI Hunt · agihunt.info