跳到正文
AGI Hunt· No-Bite2555·· 2 小时前AI 评分25

RTX 5090 笔记本实测:多款新推理引擎在 Windows 上普遍慢于 llama.cpp

5090 笔记本实测:新推理引擎在 Windows 上普遍跑不过 llama.cpp

AI 导读

Reddit 用户在 Windows 11 的 RTX 5090(24GB)笔记本上实测,nInfer、basalt、rusting strata、exLlamaV3 及多个 llama.cpp 分支均明显慢于现有组合。

来源:AGI Hunt · agihunt.info