Bonsai将Qwen3.8-27B压缩至5.9GB
热点事件持续更新
Bonsai将Qwen3.8-27B压缩至5.9GB
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
PrismML团队使用Bonsai三值量化技术压缩Qwen3.8-27B，将模型体积从55.6GB降至5.9GB，缩减约89.4%。PrismML称，该模型在20项基准测试中保留98.2%的综合性能，高于上一代27B模型约95%的保留率。 同一报道的实测显示，经过Q4KM量化的Qwen3.8-35B-A3B可在配备12GB显存的RTX 3060上通过llama.cpp运行，生成速度约为50 tokens/s。
AI 根据报道生成 · 2 小时前更新
最新进展10月30日 22:41
Bonsai 将 Qwen3.8-27B 从 55.6GB 压缩至 5.9GB，保留 98.2% 跑分报道时间线
沿着报道，了解事件的不同侧面。
10月30日
- AGI HuntBonsai 将 Qwen3.8-27B 从 55.6GB 压缩至 5.9GB，保留 98.2% 跑分
PrismML 团队的 Bonsai 采用三值量化，将 Qwen3.8-27B 从 55.6GB 压缩至 5.9GB，并在 20 个基准测试中保留 98.2% 的综合性能，超过上一版 27B 约 95% 的保留率。实测中，Qwen3.8-35B-A3B 使用 Q4KM 量化后，可在 12GB 显存的 RTX 3060 上运行 llama.cpp，生成速度约 50 tokens/s。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。