B200双机RoCE实测仅及InfiniBand四分之一
热点事件持续更新
B200双机RoCE实测仅及InfiniBand四分之一
1 篇报道1 个报道来源55 分钟前更新
先了解这件事
AI 综述
Zach Mueller在Lambda同一区域租用两台HGX B200节点实测发现,在不启用InfiniBand、仅通过RoCE以太网运行GLM模型NVFP4量化推理时,RoCE吞吐比InfiniBand低约70%,仅约为后者的四分之一。该结果表明,缺少InfiniBand时,以太网互连会显著限制这两台B200节点的跨机推理性能。
AI 根据报道生成 · 18 分钟前更新
最新进展11月20日 23:59
HGX B200 无 InfiniBand 双机实测:RoCE 吞吐仅约四分之一报道时间线
沿着报道,了解事件的不同侧面。
11月20日
- AGI HuntHGX B200 无 InfiniBand 双机实测:RoCE 吞吐仅约四分之一
Zach Mueller 在 Lambda 同区域租用两台 HGX B200 节点,测试无 InfiniBand、仅使用 RoCE 以太网时的 GLM 模型 NVFP4 量化推理。同配置下,RoCE 吞吐比 InfiniBand 低约 70%,仅约为其四分之一,结果也与 Lambda 官方对比数据相印证。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。