跳到正文
AGI Hunt· vllm_project·· 2 小时前AI 评分48

vLLM 实测:MiniMax-M3.1-Flash 在 Rubin NVL72 吞吐达 GB300 的 10.2 倍

vLLM 实测:MiniMax-M3.1-Flash 在 Rubin NVL72 吞吐达 GB300 的 10.2 倍

AI 导读

vLLM 团队公布 MiniMax-M3.1-Flash 在 NVIDIA Vera Rubin NVL72 上的推理实测,单芯片总吞吐达 GB300 NVL72 的 10.2 倍。

来源:AGI Hunt · agihunt.info