英伟达开源Nemotron 3.5系列模型
先了解这件事
英伟达发布并开源Nemotron 3.5 Super与Lightning两款混合Mamba-Transformer MoE模型,分别面向多模态和纯文本推理、长上下文及智能体工作负载。Super总参数1200亿、每次激活120亿,支持文本、图像和视频;Lightning总参数300亿、每次激活30亿。 英伟达同步开放基础模型、BF16后训练模型和NVFP4量化检查点,并提供训练数据、配方及投机解码器。技术报告称,Super在SWE-bench Pro上得分51.78%;在GB200上最高输出速度为每GPU每秒4856个token,并保证每位用户不低于每秒50个token。其NVFP4版本恢复BF16中位精度的99.62%,吞吐达到BF16的2.43倍。
AI 根据报道生成 · 2 小时前更新
报道时间线
沿着报道,了解事件的不同侧面。
- AGI Hunt精选NVIDIA 发布 Nemotron 3.5 Super 开源 MoE 模型
NVIDIA 发布 Nemotron 3.5 Super 技术报告,披露这款开源 MoE 混合 Mamba-Transformer 模型的训练方法、推理效率及开源 checkpoint。
- AGI HuntNVIDIA 开源 Nemotron 3.5 Super 与 Lightning 模型
NVIDIA 发布技术报告并开源 Nemotron 3.5 Super 与 Nemotron 3.5 Lightning,采用 MoE 混合 Mamba-Transformer 架构,面向推理、长上下文和智能体工作负载。Super 版本总参数 120B、激活参数 12B,在 SWE-bench Pro 上取得 51.78% 的成绩。
- AGI HuntNVIDIA 发布 Nemotron 3.5 Super 与 Lightning 开源 MoE 模型
NVIDIA 发布开源的 Nemotron 3.5 Super 与 Lightning 混合 Mamba-Transformer MoE 模型,分别面向多模态与纯文本推理、长上下文和智能体工作负载。Super 总参数 120B、激活参数 12B,Lightning 总参数 30B、激活参数 3B,均采用大规模蒸馏、长上下文训练与原生投机解码。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。