AGI Hunt· JsThiago5·· 3 小时前AI 评分24
推理框架 Strata 新增 Qwen 3.6 35B 支持,MI50 解码速度不敌 llama.cpp
推理框架 Strata 新增 Qwen 3.6 35B 支持,MI50 上解码速度不敌 llama.cpp
AI 导读
推理框架 Strata 新增对 Qwen 3.6 35B 的支持,但 Reddit 用户在 AMD MI50(gfx906,16GB)上的实测显示,其解码速度反而不及 llama.cpp。该结果为本地、端侧部署及 AMD 老卡推理性能提供了一个具体数据点。
来源:AGI Hunt · agihunt.info