AGI Hunt· Fuzzy-Layer9967·· 2 小时前AI 评分62
Leech 格点量化将 Qwen3 压缩至约 2.7 比特，质量超过 IQ2_S 但速度更慢
Leech 格点量化把 Qwen3 压到 2.7 比特,质量超 IQ2_S 但速度更慢
AI 导读
作者用 Rust 和自写 CUDA kernel 独立实现 LLVQ（Leech lattice quantization）论文，完成 Qwen3 4B、8B、14B 量化并将权重上传 Hugging Face。
来源：AGI Hunt · agihunt.info