AGI Hunt· jesdga95·2026-10-31 22:14· 2 小时前AI 评分52

Basalt 实测：有损加速默认项让 Q8 模型掉到 Q2 水平

实测：推理引擎的有损加速默认项，让 Q8 模型掉到 Q2 水平

AI 导读

Basalt 实测显示，推理引擎默认开启 Routing bias 和 Tail skip 后，量化模型的 KLD 普遍落在 IQ3XXS 与 Q20 之间。

来源：AGI Hunt · agihunt.info