社区优化Nemotron 3.5推理提速34.6%
热点事件持续更新
社区优化Nemotron 3.5推理提速34.6%
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
众包社区通过推测解码、自定义 draft head 等方法优化 NVIDIA Nemotron 3.5 Lightning，使该模型在 Mac 上的整体推理速度较基线提升34.6%；decode 速度由152.3升至237.3 tok/s，prefill 达到3220.7 tok/s。 此次优化面向约20GB、适合单机本地运行的开源权重模型，可调整范围包括 Mamba-2、MoE、注意力层和多 token 预测头。上线首日，Yukon Research 求解者已分别实现 Mac 提速13.8%和 DGX Spark 提速31.9%，后续 Mac 纪录进一步升至34.6%。
AI 根据报道生成 · 3 小时前更新
最新进展10月24日 04:44
众包优化让 NVIDIA Nemotron 3.5 Lightning 在 Mac 上提速 34.6%报道时间线
沿着报道，了解事件的不同侧面。
10月24日
- AGI Hunt众包优化让 NVIDIA Nemotron 3.5 Lightning 在 Mac 上提速 34.6%
社区优化让开源权重模型 NVIDIA Nemotron 3.5 Lightning 在 Mac 上的整体速度提升 34.6%。上线首日，Yukon Research 的求解者已让它在 DGX Spark 上提速 31.9%、Mac 上提速 13.8%；目前 Mac decode 速度从 152.3 提升到 237.3 tok/s，prefill 达到 3220.7 tok/s。
本事件热度走势
- 可比范围当前
- 9
- 可比范围峰值
- 1010月24日 05:00
- 近 24 小时变化
- –
02.557.510
05:0006:0007:00
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。