Hacker News·· 3 小时前AI 评分75
Unsloth 更新 Qwen3.8-27B 量化并发布本地运行指南
Unsloth Qwen3.8-27B Quantizations – Dynamic v3.1 Update
AI 导读
Unsloth 发布采用 Dynamic v3.1 的 Qwen3.8-27B GGUFs,称其在相近体积下多数基准的平均准确率提升 5-10%。Qwen3.8-27B 的 4-bit 量化版本可在 16-19GB VRAM 上运行,NVFP4 版本则面向 Blackwell GPU,推理速度约为 BF16 的 1.5 倍。
来源:Hacker News · unsloth.ai