Qwen3.8B合并LoRA重量化实测
热点事件持续更新
Qwen3.8B合并LoRA重量化实测
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
yb2698分享了bchap1n对Qwen3.8B进行LoRA合并并重量化的实测结果:配置调整后,推理速度提升约50%,语法测试零失败。流程是将LoRA adapter合并进权重,生成hybrid GGUF,再用llama-quantize --allow-requantize重量化为IQ4XS,模型大小为14.2 GiB。 该配置保留MTP(nextn)、q80 KV cache和160K上下文,并将presencepenalty设为0;相关设置写入configs/qwen38-pi-merged-iq4xs-mtp-quality.yaml。
AI 根据报道生成 · 49 分钟前更新
最新进展11月20日 15:17
Qwen3.8B 合并 LoRA 并重量化实测,速度提升约 50% 且语法零失败报道时间线
沿着报道,了解事件的不同侧面。
11月20日
- AGI HuntQwen3.8B 合并 LoRA 并重量化实测,速度提升约 50% 且语法零失败
yb2698 分享了 bchap1n 对 Qwen3.8B 合并 LoRA adapter 并重量化为 IQ4XS 的实测过程。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。