跳到正文
AGI Hunt· maternion·· 2 小时前AI 评分29

llama.cpp 推进 NVIDIA Nemotron 3.6 Academia 原生支持

AI 导读

llama.cpp 近日出现两个相关 PR(#32765 与 #32766),正为 NVIDIA Nemotron 3.6 Academia 添加原生支持。该模型采用结合 Gated Delta Product(GDP)与稠密注意力的循环混合架构;支持完成后,用户可直接在 llama.cpp 中运行这一架构的模型。

来源:AGI Hunt · agihunt.info