跳到正文
AGI Hunt· tebjan·· 55 分钟前AI 评分59

资深 GPU 工程师在 RTX 5090 笔记本上优化 Qwen 3.8 27B 并行吞吐

老 GPU 工程师把 Qwen 3.8 27B 在 5090 笔记本跑出 500 tok/s

AI 导读

一位资深 GPU 工程师分享在 RTX 5090 笔记本上运行 Qwen 3.8 27B 的优化结果,单流基准可达 900 tok/s,多智能体并行负载稳定在 300-500 tok/s。

来源:AGI Hunt · agihunt.info