跳到正文
热点事件持续更新

B200双机RoCE实测仅及InfiniBand四分之一

1 篇报道1 个报道来源55 分钟前更新

先了解这件事

AI 综述

Zach Mueller在Lambda同一区域租用两台HGX B200节点实测发现,在不启用InfiniBand、仅通过RoCE以太网运行GLM模型NVFP4量化推理时,RoCE吞吐比InfiniBand低约70%,仅约为后者的四分之一。该结果表明,缺少InfiniBand时,以太网互连会显著限制这两台B200节点的跨机推理性能。

AI 根据报道生成 · 18 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月20日
  1. AGI Hunt
    HGX B200 无 InfiniBand 双机实测:RoCE 吞吐仅约四分之一

    Zach Mueller 在 Lambda 同区域租用两台 HGX B200 节点,测试无 InfiniBand、仅使用 RoCE 以太网时的 GLM 模型 NVFP4 量化推理。同配置下,RoCE 吞吐比 InfiniBand 低约 70%,仅约为其四分之一,结果也与 Lambda 官方对比数据相印证。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。