AGI Hunt· fuzhongkai·· 2 小时前AI 评分47
单卡 RTX 5090 跑 Qwen 27B：六大推理引擎基准对比，DFlash2 提速显著
单卡 RTX 5090 跑 Qwen 27B:六大推理引擎基准对比,DFlash2 提速显著
AI 导读
TensorSharp 作者在单张 RTX 5090 32GB 上完成 Qwen 27B 六大推理引擎基准，统一使用 40960 token 上下文。
来源：AGI Hunt · agihunt.info
单卡 RTX 5090 跑 Qwen 27B：六大推理引擎基准对比，DFlash2 提速显著