跳到正文
AGI Hunt· Plastic-Stress-6468·· 3 小时前AI 评分18

Reddit 求证 DeepSeek v4.1 在 1-3 bpw 极低量化下的实际可用性

DeepSeek v4.1 在 1-3 bpw 极低量化下还真能用?Reddit 求实测证言

AI 导读

Reddit 用户 Plastic-Stress-6468 发帖征集 DeepSeek v4.1-1017 在 1-3 bpw 极低量化下的实测体验,核实其能否在廉价硬件上真正用于工作,而非仅作猎奇玩具。发帖者称此前 v4-0731 的 Q2 效果远逊于全重量 Q8,而 Q8 已接近 QAT 过的 Q4,再降 2 bpw 表现明显劣化,并希望与 3.8FN 等更高量化模型对比。

来源:AGI Hunt · agihunt.info