跳到正文
AGI Hunt· slacka123·· 42 分钟前AI 评分42

Unsloth 更新 Qwen3.8-27B 动态量化 v3.1,本地部署再省显存

AI 导读

Unsloth 为 Qwen3.8-27B 推出 Dynamic v3.1 量化版本,帮助用户在消费级硬件上本地运行该模型。动态量化通过保留关键层精度、压缩其余权重,在降低显存占用与维持模型质量之间取得平衡。

来源:AGI Hunt · agihunt.info