跳到正文
热点事件持续更新

Strata在16GB显存运行Qwen量化模型实测

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

Reddit 用户 ckplscz 在配备 AMD 9060 XT 16GB 显卡和 32GB DDR4 内存的 Windows 机器上,用 Strata 运行 Qwen3.8-Flash-Next Q20 量化模型:解码速度约 45.5 tok/s,但处理 4K prompt 的 prefill 速度仅约 162 tok/s,提示处理偏慢。 测试采用 ROCm(HIP)后端、65536 上下文和 int8 KV cache;因空闲内存不足,hostcorelast 与 kv-grow 选项被跳过。specminp、auxcpus 的多组调优对比也未带来提升。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月28日
  1. AGI Hunt
    Strata 在 16GB 显存环境运行 Qwen3.8-Flash-Next Q2_0:prefill 仅 162 tok/s,prompt 处理偏慢

    Reddit 用户在 AMD 9060 XT 16GB + 32GB DDR4 的 Windows 机器上,用 Strata 运行 Qwen3.8-Flash-Next Q20 量化模型,解码速度约 45.5 tok/s,但 4K prompt 的 prefill 仅约 162 tok/s。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。