Qwen MoE多卡部署实测发布
热点事件持续更新
Qwen MoE多卡部署实测发布
1 篇报道1 个报道来源21 分钟前更新
先了解这件事
AI 综述
Reddit用户maxigs0发布Qwen MoE本地多卡部署实测结论，探讨专家命中率与解码速度的关系。该测试运行unsloth UD-Q4/Q5量化版本，硬件为Threadripper加4×RTX 3090，使用PCIe 3.0且无NVLink；部署时将专家权重置于内存，并尽量缓存至显存。
AI 根据报道生成 · 15 分钟前更新
最新进展11月13日 00:30
Reddit 用户实测 4×RTX 3090 运行 Qwen MoE：专家命中率与解码速度关系报道时间线
沿着报道，了解事件的不同侧面。
11月13日
- AGI HuntReddit 用户实测 4×RTX 3090 运行 Qwen MoE：专家命中率与解码速度关系
Reddit 用户在 Threadripper 加 4×RTX 3090、无 NVLink 且使用 PCIe 3.0 的配置下，实测 Qwen MoE 的 unsloth UD-Q4/Q5 量化版本。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。