GB300运行DeepSeek吞吐与成本获报
热点事件持续更新
GB300运行DeepSeek吞吐与成本获报
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
SemiAnalysis称，SGLang借助激进融合 kernel，在 NVIDIA GB300 NVL72 上运行 DeepSeek Flash v4.1，单个 NVL72 托盘可实现接近每用户 1000 tok/s 的交互速度；按总拥有成本折算，1 美元约产出 1300 万 token，即每百万 token 约 7 美分。 该结果针对上述模型、硬件与 SGLang 实现；帖子同时称，仅需一个 NVL72 托盘（“4 GPU 级别配置”）即可达到这一表现。
AI 根据报道生成 · 1 小时前更新
最新进展10月30日 01:06
GB300 单托盘运行 DeepSeek Flash：SGLang 实现近 1000 tok/s，百万 token 仅 7 美分报道时间线
沿着报道，了解事件的不同侧面。
10月30日
- AGI HuntGB300 单托盘运行 DeepSeek Flash：SGLang 实现近 1000 tok/s，百万 token 仅 7 美分
SGLang 在 NVIDIA GB300 NVL72 上通过激进融合 kernel 运行 DeepSeek Flash v4.1，单个 NVL72 托盘即可实现每用户接近 1000 tok/s 的交互速度。按 TCO 折算，1 美元可产出 1300 万 token，即每百万 token 约 7 美分；TileRT 正推动 OSS 前沿模型采用 megakernel 引擎。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。