Qwen3.8量化版本地运行配置公开

Reddit 用户 SetNo7692 公开了在 Ryzen 5 5600、64GB 内存和二手 RTX 3070 上，通过 Strata 引擎运行 Qwen3.8-FN IQ3S 量化版的完整 JSON 配置及实测结果。 作者称，该配置可实现约 1000 tps 预填充和 40 tps 解码，支持 262K 上下文、int8 KV cache 与视觉输入；与原版配置相比，预填充速度提升约 500 tps。其测试还显示，gpu-unlock 工具仅提升 50—100 tps 预填充，作者认为 RTX 3060 用户可能获得更大收益。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。