开发者求解两机运行125B MoE
热点事件持续更新
开发者求解两机运行125B MoE
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
一名开发者在 Reddit 发帖求助,希望将 Qwen3.8-Flash-Next(125B-A6B)拆分到两台机器运行,以突破单台主机搭载 RX 9070 XT 16GB 显存的限制。 其主机器配置为 Ryzen 7 7800X3D、16GB 显存显卡和 32GB DDR5 内存,目前使用 llama.cpp 的 Vulkan/ROCm 后端,以约 65 tok/s 运行量化版 Qwen3.8-27B(IQ3M);帖子未给出拆分运行更大模型的成功结果。
AI 根据报道生成 · 2 小时前更新
最新进展10月31日 07:03
Strata 能否拆到两台机器跑 125B MoE:16GB 显卡运行 Qwen3.8-Flash-Next 的求助报道时间线
沿着报道,了解事件的不同侧面。
10月31日
- AGI HuntStrata 能否拆到两台机器跑 125B MoE:16GB 显卡运行 Qwen3.8-Flash-Next 的求助
一位开发者在 Reddit 发帖求助,主机器为 Ryzen 7 7800X3D + RX 9070 XT(16GB)+ 32GB DDR5,已用 llama.cpp(Vulkan/ROCm)以约 65 tok/s 运行 Qwen3.8-27B(IQ3M),希望跑更大的 Qwen3.8-Flash-Next(125B-A6B)。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。