跳到正文
热点事件持续更新

Qwen3.8B合并LoRA重量化实测

1 篇报道1 个报道来源1 小时前更新

先了解这件事

AI 综述

yb2698分享了bchap1n对Qwen3.8B进行LoRA合并并重量化的实测结果:配置调整后,推理速度提升约50%,语法测试零失败。流程是将LoRA adapter合并进权重,生成hybrid GGUF,再用llama-quantize --allow-requantize重量化为IQ4XS,模型大小为14.2 GiB。 该配置保留MTP(nextn)、q80 KV cache和160K上下文,并将presencepenalty设为0;相关设置写入configs/qwen38-pi-merged-iq4xs-mtp-quality.yaml。

AI 根据报道生成 · 49 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月20日
  1. AGI Hunt
    Qwen3.8B 合并 LoRA 并重量化实测,速度提升约 50% 且语法零失败

    yb2698 分享了 bchap1n 对 Qwen3.8B 合并 LoRA adapter 并重量化为 IQ4XS 的实测过程。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。