跳到正文
AGI Hunt· Don_Reuter·· 3 小时前AI 评分48

Strata 引擎实测:双 R9700 上不敌 llama.cpp,定制引擎价值受质疑

Strata 引擎实测翻车:2×R9700 上不敌 llama.cpp,质疑定制引擎炒作

AI 导读

Reddit 用户在双 R9700(共 64GB 显存)上实测 Strata 推理引擎,结果显示其表现不及 llama.cpp。Strata 约 60 t/s,但 HumanEval+ 上 3-bit Flash-Next 得分 93.9%,低于 llama.cpp 的 Q8 版 95.1%,生成 token 数近两倍;专家卸载到内存还会导致长任务卡死。作者质疑定制推理引擎社区存在炒作。

来源:AGI Hunt · agihunt.info