AGI Hunt· TheZachMueller·· 3 小时前AI 评分66
DeepSeek v4.1 本地推理实测:单流 340 tok/s,标准化成绩约 160 至 400 tok/s
实测 DeepSeek v4.1 本地推理 340 tok/s,质疑 700 tok/s 为「跑分优化」
AI 导读
ZenMagnets 修改 fraserpricee 的推理配方后,在单流 NVFP4 硬件上运行 DeepSeek v4.1 达到 340 tok/s。材料称,fraser 宣称的 700+ tok/s 在标准化 llm-inference-bench 下约为 C1 的 160 tok/s 和 C8 的 400 tok/s,完整配方已发布在推文线程。
来源:AGI Hunt · agihunt.info