跳到正文
AGI Hunt· R_Duncan·· 2 小时前AI 评分44

SenseNova-Loop 9B 在 8GB 显存跑通,推理 token 省一半

AI 导读

Reddit 用户 R_Duncan 分享在 8GB 显存的 RTX 4060 上运行 SenseNova-Loop 9B(100k 版本 GGUF)的实测,速度约 22 tokens/s。其推理与回答简洁,token 用量约为 Qwen3.8 的一半,为低显存本地部署提供参考。

来源:AGI Hunt · agihunt.info