跳到正文
热点事件持续更新

Baseten公布Vera Rubin上的DeepSeek测试结果

2 篇报道1 个报道来源54 分钟前更新

先了解这件事

AI 综述

Baseten公布在英伟达Vera Rubin上运行DeepSeek v4.1 Flash的实测结果:在batch size为1、TP4配置下,生成速度约为2500 tok/s,每步约1.9ms,较此前在GB300上的测试成绩快约1.5倍。 Baseten团队称,正与SGLang项目方合作开源相关优化;该优化此前已由Tri Dao和stel4th在SGLang峰会分享。

AI 根据报道生成 · 29 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月17日
  1. AGI Hunt
    Baseten 在 Nvidia Vera Rubin 上运行 DeepSeek v4.1 Flash,推理速度约达 2500 tok/s

    Baseten 在 Nvidia Vera Rubin 硬件上部署 DeepSeek v4.1 Flash,在 batch size 1、TP4 配置下实现约 2500 tok/s 的生成速度。该实测展示了新一代硬件与低延迟优化方案的性能上限。

  2. AGI Hunt
    Baseten 实测 DeepSeek v4.1 Flash:Nvidia Vera Rubin 上跑出 2500 tok/s

    Baseten 在 Nvidia Vera Rubin 上实测 DeepSeek v4.1 Flash,batch size 1、TP4 配置下达到约 2500 tok/s,每步仅 1.9ms。性能较此前 GB300 快约 1.5 倍;团队正与 SGLang 项目方合作开源相关优化,相关工作已由 Tri Dao 与 stel4th 在 SGLang 峰会分享。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。