跳到正文
AGI Hunt· poofph·· 3 小时前AI 评分52

Strata 更新将四卡 R9700 本地推理速度从 70 提升至 140-160 tok/s

Strata 更新让四卡 R9700 本地推理速度翻倍:70 提升至 140-160 tok/s

AI 导读

Reddit 用户实测称,Strata 更新让四张 R9700 搭配 256GB 系统内存运行 unsloth Q4KXL 量化模型时,输出速度从约 70 tok/s 提升至 140-160 tok/s,prefill 约为 3200 tok/s。

来源:AGI Hunt · agihunt.info