跳到正文
AGI Hunt· citrusalex·· 4 小时前AI 评分34

Strata 侧载 Q8 ngram 提升 Qwen3.8 Flash Next 量化版质量

Strata 侧载 Q8 ngram 提升 Qwen Flash Next 量化版质量

AI 导读

Strata 侧载 Q8 ngram 的方法可提升 Qwen3.8 Flash Next 量化版输出质量,且不增加显存或内存占用,并在 `ple-io=direct` 下保持 prefill/decode 速度。

来源:AGI Hunt · agihunt.info