DGX Station用户公开GB300推理实测数据

一名获借 ASUS ET900N G3 DGX Station（GB300）的 Reddit 用户，公开了 DGX Station 上 Qwen3.8-Flash-Next 和 DeepSeek V4.1 Flash 的 NVFP4 推理实测数据。设备约配备 250GB 显存、72 个 Grace 核心和 750GB 内存，并附带一张 RTX PRO 6000；用户拥有设备独享一个月，数据取自使用前两天。 实测显示，Qwen3.8-Flash-Next 在 vLLM 下的 1/16/64 并发总吞吐分别为 219/1370/2700 tok/s，SGLang 为 221/1537/3002 tok/s，高并发时 SGLang 表现更好。DeepSeek V4.1 Flash 使用 vLLM nightly 时，单请求和 16 并发分别为 59 tok/s、246 tok/s，模型加载需 19 分钟；该用户还表示 Kimi K3.1 Pro 无法装入设备。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。