AGI Hunt· poofph·· 3 小时前AI 评分52
Strata 更新将四卡 R9700 本地推理速度从 70 提升至 140-160 tok/s
Strata 更新让四卡 R9700 本地推理速度翻倍:70 提升至 140-160 tok/s
AI 导读
Reddit 用户实测称,Strata 更新让四张 R9700 搭配 256GB 系统内存运行 unsloth Q4KXL 量化模型时,输出速度从约 70 tok/s 提升至 140-160 tok/s,prefill 约为 3200 tok/s。
来源:AGI Hunt · agihunt.info