跳到正文
AGI Hunt· ryanshrout·· 50 分钟前AI 评分47

Signal65 实测 MLPerf Inference v6.1:Azure ND GB300 v6 交互式推理吞吐超 26 万 tokens/秒

Signal65 实测 MLPerf:Azure GB300 交互式推理吞吐超 26 万 tokens/秒

AI 导读

Signal65 实测 MLPerf Inference v6.1 后称,Azure ND GB300 v6 在 Interactive 场景下吞吐超过 26 万 tokens/秒。

来源:AGI Hunt · agihunt.info