AGI Hunt· jesdga95·· 3 小时前AI 评分57
单张 RTX 5090 运行 DeepSeek V4.1 Flash，解码速度达 63.5 tok/s
单张 RTX 5090 跑 DeepSeek V4.1 Flash，解码 63.5 tok/s
AI 导读
开发者使用自研推理引擎 Basalt，让 RTX 5090 与 RTX 5060 Ti 16GB 协同运行 DeepSeek V4.1 Flash 1017 的 IQ1S 量化版，解码速度达到 63.5 tok/s。
来源：AGI Hunt · agihunt.info