跳到正文
AGI Hunt· sisyphus-cycle·· 3 小时前AI 评分70

RTX 4090 运行 Qwen3.8 量化版:三个参数将解码速度提升 45%

RTX 4090 跑 Qwen3.8 量化版:三个参数让解码提速 45%

AI 导读

在单张 RTX 4090、48GB 内存和 Windows 环境下,使用 Strata 推理引擎 v0.43 运行 Qwen3.8-Flash-Next 的 IQ3S 量化版,通过三个参数将解码速度从 97 提升至 142 tok/s。

来源:AGI Hunt · agihunt.info