跳到正文
AGI Hunt· gajesh·· 4 小时前AI 评分58

众包优化让 NVIDIA Nemotron 3.5 Lightning 在 Mac 上提速 34.6%

AI 导读

社区优化让开源权重模型 NVIDIA Nemotron 3.5 Lightning 在 Mac 上的整体速度提升 34.6%。上线首日,Yukon Research 的求解者已让它在 DGX Spark 上提速 31.9%、Mac 上提速 13.8%;目前 Mac decode 速度从 152.3 提升到 237.3 tok/s,prefill 达到 3220.7 tok/s。

来源:AGI Hunt · agihunt.info