AGI Hunt· pmttyji·2026-10-23 14:26· 3 小时前AI 评分37PN-Mix 论文:2.26-bit key cache 量化跑赢 2.32-2.39-bit 基线AI 导读PN-Mix 论文提出面向 RoPE 架构 decoder-only LLM 的混合精度 key cache 量化方法,利用显著 query-key 通道对缓解长输出推理的 KV cache 瓶颈。来源:AGI Hunt · agihunt.info推理能力部署工程论文研究#论文/研究#推理#部署/工程#arXiv查看事件全部后续