AGI Hunt· maxigs0·· 32 分钟前AI 评分73
Reddit 用户实测 4×RTX 3090 运行 Qwen MoE：专家命中率与解码速度关系
4×RTX 3090 跑 Qwen MoE 实测：专家命中率决定解码速度
AI 导读
Reddit 用户在 Threadripper 加 4×RTX 3090、无 NVLink 且使用 PCIe 3.0 的配置下，实测 Qwen MoE 的 unsloth UD-Q4/Q5 量化版本。
来源：AGI Hunt · agihunt.info