跳到正文
AGI Hunt· NVIDIAAI·· 4 小时前AI 评分29

EagleCorp 实测 Nemotron 3.5 Super VL:单请求吞吐达原版 2.74 倍

AI 导读

EagleCorp 在 SPEED-Bench 上实测 Nemotron 3.5 Super VL,单请求吞吐达到 647 tokens/s,是原版 236 tokens/s 的 2.74 倍。测试采用 4×B300、TP4、温度 0 配置,512 并发请求下聚合吞吐为 33,480 tokens/s,较原版 19,823 tokens/s 提升 1.69 倍。

来源:AGI Hunt · agihunt.info