Nace团队开源KQuant量化方案
热点事件持续更新
Nace团队开源KQuant量化方案
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Nace团队ML工程师Alish发布开源量化方案KQuant,为Qwen系列模型提供更贴近原模型的MLX量化包。其公布的Qwen3.8-Flash-Next量化结果KL散度为0.067,公共4-bit量化结果为0.249,模型体积缩小5GB至105.2GB。 KQuant已上架Hugging Face,覆盖4B、9B、27B、35B和Flash-Next版本,输出标准MLX文件,无需自定义内核或加载器;GGUF版本尚未推出,作者正征集早期测试者。
AI 根据报道生成 · 1 小时前更新
最新进展11月12日 18:47
开源量化方案 KQuant 让 Qwen 系列 MLX 量化最高逼近 3.7 倍报道时间线
沿着报道,了解事件的不同侧面。
11月12日
- AGI Hunt开源量化方案 KQuant 让 Qwen 系列 MLX 量化最高逼近 3.7 倍
Nace团队的ML工程师Alish发布开源量化方案KQuant,为Qwen系列模型提供更贴近原模型的MLX量化包。其Qwen3.8-Flash-Next量化结果的KL散度为0.067,相比公共4-bit量化的0.249好3.7倍,体积小5GB(105.2GB)。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。