KLD被指不宜作为量化模型通用排名指标

一位量化模型作者在 Reddit 长文中指出，KLD 不适合作为衡量量化模型质量的通用排名指标。KLD 用于比较基础模型与量化模型逐 token 的 logits 概率分布差异，但使用随机文本校准可能偏离模型实际推理时的分布；该作者称，采用同源校准数据，或通过端到端微调量化 scale，可以改善这一结果。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。