AGI Hunt· TheZachMueller·· 1 小时前AI 评分41
HGX B200 无 InfiniBand 双机实测:RoCE 吞吐仅约四分之一
实测无 InfiniBand 云端 B200:RoCE 吞吐仅为四分之一
AI 导读
Zach Mueller 在 Lambda 同区域租用两台 HGX B200 节点,测试无 InfiniBand、仅使用 RoCE 以太网时的 GLM 模型 NVFP4 量化推理。同配置下,RoCE 吞吐比 InfiniBand 低约 70%,仅约为其四分之一,结果也与 Lambda 官方对比数据相印证。
来源:AGI Hunt · agihunt.info