跳到正文
热点事件持续更新

SGL公布DeepInfer同机复测结果

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

SGL项目团队在4张B300显卡同机复测DeepInfer与DeepSeek，称DeepInfer在4K、8K上下文下的推理吞吐约为每GPU 6.5万和7.8万token/s，较DeepSeek官方曲线的6万和7.2万高约9%。 团队称，相较此前采用的更强基线，DeepInfer达到1.04倍加速；若直接对照DeepSeek README中的官方数字，4K上下文加速比接近1.13倍。该结果来自SGL团队的对比测试，官方曲线和README数字并非同机实测。

AI 根据报道生成 · 2 小时前更新

最新进展10月25日 06:38
第三方同机实测：DeepInfer 推理吞吐超 DeepSeek 官方曲线约 9%

报道时间线

沿着报道，了解事件的不同侧面。

10月25日
  1. AGI Hunt
    第三方同机实测：DeepInfer 推理吞吐超 DeepSeek 官方曲线约 9%

    SGL 项目团队在 4×B300 同机复测 DeepInfer 与 DeepSeek，DeepInfer 推理吞吐在 4K、8K 上下文下分别约达 65K、78K tok/s/GPU，较 DeepSeek 官方曲线的 60K、72K 高约 9%。团队称，相对于更强基线为 1.04x 加速；若以 DeepSeek README 官方数字对照，4K 点加速比接近 1.13x。

本事件热度走势

还没有足够的连续观测数据，暂不绘制趋势。