Nemotron 3.5 Super VL推理实测发布
热点事件持续更新
Nemotron 3.5 Super VL推理实测发布
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
Lambda公布NVIDIA Nemotron 3.5 Super VL（120B-A12B）在SGLang下的推理性能测试：采用NVFP4的单卡Blackwell峰值系统吞吐为1,860 tok/s，高于双卡BF16的1,669 tok/s；单流速度分别为587和530 tok/s。两组测试均启用多token预测和EAGLE投机解码，吞吐峰值出现在并发16；decode CUDA graph仅捕获至batch 16，超过后吞吐回落。
AI 根据报道生成 · 2 小时前更新
最新进展10月22日 18:09
NVIDIA Nemotron 3.5 Super VL 实测：NVFP4 单卡 Blackwell 吞吐反超双卡 BF16报道时间线
沿着报道，了解事件的不同侧面。
10月22日
- AGI HuntNVIDIA Nemotron 3.5 Super VL 实测：NVFP4 单卡 Blackwell 吞吐反超双卡 BF16
NVIDIA Nemotron 3.5 Super VL（120B-A12B）在 SGLang 下实测中，NVFP4 单卡 Blackwell 系统峰值为 1,860 tok/s，高于双卡 BF16 的 1,669 tok/s。同负载下，NVFP4 单卡每 GPU 吞吐约为 BF16 双卡的 2.2 倍，单流速度分别为 587 tok/s 和 530 tok/s。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。