跳到正文
AGI Hunt· Rozzemak·· 3 小时前AI 评分53

RTX 5090 加 64GB 内存实测 Qwen 3.8 Flash Next NVFP4

5090+64GB 内存实测 Qwen 3.8 Flash NVFP4:换 Linux 后 prefill 提升至 9K

AI 导读

Rozzemak 在 RTX 5090 32GB 显存与 64GB 内存上实测 Qwen 3.8 Flash Next NVFP4,将系统从 Windows 11 换为 CachyOS 后,prefill 达到 9K tps,decode 约 200 tps,并支持 256K 上下文。

来源:AGI Hunt · agihunt.info