Reddit用户分享Qwen3.8本地推理调优配置

Reddit 用户 Prudence-0 分享了在 Ryzen AI Max+ 395（96GB 统一显存）上通过官方 llama.cpp 调优 Qwen3.8-Flash-Next 的完整配置。其称，在 64k 以上长上下文的编码与创作任务中，该配置可提速 48%，并使 tok/s 更稳定，无需更换第三方推理引擎。 配置包括启用 `--fit on`、`--flash-attn`，将 KV 缓存量化为 q80 并使用统一缓存，设置 131072 上下文与检查点，同时开启双并行连续批处理和 ngram speculative decoding。作者还推荐自测的 Qwen3.8-Flash-Next-Uncensored-Gufo-Q4Mix 量化版本，认为其质量与性能平衡较好。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。