AGI Hunt· ryanshrout·· 50 分钟前AI 评分47
Signal65 实测 MLPerf Inference v6.1:Azure ND GB300 v6 交互式推理吞吐超 26 万 tokens/秒
Signal65 实测 MLPerf:Azure GB300 交互式推理吞吐超 26 万 tokens/秒
AI 导读
Signal65 实测 MLPerf Inference v6.1 后称,Azure ND GB300 v6 在 Interactive 场景下吞吐超过 26 万 tokens/秒。
来源:AGI Hunt · agihunt.info