跳到正文
热点事件持续更新

Nace团队开源KQuant量化方案

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

Nace团队ML工程师Alish发布开源量化方案KQuant,为Qwen系列模型提供更贴近原模型的MLX量化包。其公布的Qwen3.8-Flash-Next量化结果KL散度为0.067,公共4-bit量化结果为0.249,模型体积缩小5GB至105.2GB。 KQuant已上架Hugging Face,覆盖4B、9B、27B、35B和Flash-Next版本,输出标准MLX文件,无需自定义内核或加载器;GGUF版本尚未推出,作者正征集早期测试者。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月12日
  1. AGI Hunt
    开源量化方案 KQuant 让 Qwen 系列 MLX 量化最高逼近 3.7 倍

    Nace团队的ML工程师Alish发布开源量化方案KQuant,为Qwen系列模型提供更贴近原模型的MLX量化包。其Qwen3.8-Flash-Next量化结果的KL散度为0.067,相比公共4-bit量化的0.249好3.7倍,体积小5GB(105.2GB)。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。