35 种量化组合实测 Qwen3.8 27B 的 KV 缓存精度

一项针对 Qwen3.8 27B 的测试以 KLD 衡量 35 种权重量化组合，并分别搭配 16/8/4-bit KV 缓存，比较 llama.cpp、ExLlamaV3 和 vLLM，结果覆盖 agentic 工具调用、多领域文本及最长 64k token 上下文。