跳到正文
AGI Hunt· ckplscz·· 3 小时前AI 评分29

Strata 在 16GB 显存环境运行 Qwen3.8-Flash-Next Q2_0:prefill 仅 162 tok/s,prompt 处理偏慢

16GB 显存跑 Strata Q2_0:prefill 仅 162 tok/s,用户求解 prompt 处理慢

AI 导读

Reddit 用户在 AMD 9060 XT 16GB + 32GB DDR4 的 Windows 机器上,用 Strata 运行 Qwen3.8-Flash-Next Q20 量化模型,解码速度约 45.5 tok/s,但 4K prompt 的 prefill 仅约 162 tok/s。

来源:AGI Hunt · agihunt.info