boro64发布三值量化Nemotron模型包

Hugging Face 用户 boro64 发布了 Ternary Nemotron 3.5 Lightning 30B-A3B 的 1.58bit 三值量化 GGUF 包；按其说明，该 30B MoE 模型每次激活约 3B 参数，可在配备 12GB 显存的 GPU 上运行 368K 长上下文。 boro64 称，同一量化文件兼容原生 llama.cpp 和 PrismML fork/Bonsai，并已分别在对应版本中完成验证。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。