Unsloth发布Qwen3.8-27B动态量化版
先了解这件事
Unsloth发布采用Dynamic V3.1预览算法的Qwen3.8-27B GGUF量化版本，覆盖多数2-bit至6-bit规格；据Unsloth公布的多次重复跑分，相近模型体积下多数基准平均准确率较其既有量化版本提高5%至10%，但这些数据尚未获独立验证。 其中4-bit版本可在具备16至19GB显存的RTX 5080、4090或配备24GB内存的Mac上运行；面向Blackwell GPU的NVFP4版本推理速度据称约为BF16的1.5倍。由于UD3与UD3.1的3-bit版本表现持平，Unsloth此次未更新3-bit量化。
AI 根据报道生成 · 13 分钟前更新
报道时间线
沿着报道，了解事件的不同侧面。
- AGI HuntUnsloth 更新 Qwen3.8-27B 动态量化 v3.1，本地部署再省显存
Unsloth 为 Qwen3.8-27B 推出 Dynamic v3.1 量化版本，帮助用户在消费级硬件上本地运行该模型。动态量化通过保留关键层精度、压缩其余权重，在降低显存占用与维持模型质量之间取得平衡。
- Hacker NewsUnsloth 更新 Qwen3.8-27B 量化并发布本地运行指南
Unsloth 发布采用 Dynamic v3.1 的 Qwen3.8-27B GGUFs，称其在相近体积下多数基准的平均准确率提升 5-10%。Qwen3.8-27B 的 4-bit 量化版本可在 16-19GB VRAM 上运行，NVFP4 版本则面向 Blackwell GPU，推理速度约为 BF16 的 1.5 倍。
- AGI HuntUnsloth 发布 Qwen3.8-27B Dynamic V3.1 GGUF，智能体基准提升 5-10%
Unsloth 发布 Qwen3.8-27B Dynamic V3.1 GGUF 量化版本，相比 UD3、GSQ-RCO 和 Exllama-3，在 DeepSWE、Terminal Bench 等基准上准确率提升 5-10%。新版本覆盖 2-bit 至 6-bit，3-bit 暂不更新，并计划用于 Qwen4 智能体基准的 256K 上下文测试。
本事件热度走势
- 可比范围当前
- 3
- 可比范围峰值
- 1011月12日 01:00
- 近 24 小时变化
- -50%
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。