AGI Hunt· BanghuaZ·· 2 小时前AI 评分43
SGLang 追平 DeepInfer:GB300 上解码吞吐提升 7.4%
SGLang 追平 DeepInfer:GB300 上解码吞吐提升 7.4%
AI 导读
SGLang 团队宣布其推理性能已追平 DeepInfer,并在 prefill 与 decode 两侧均实现超越。prefill 在 4×GB300 与 4×B300 上最高达到 1.04× 吞吐,decode 在 64×GB300 上最高提升 7.4% 吞吐。
来源:AGI Hunt · agihunt.info