milpster 发布 gfx906 分支支持老 AMD 卡跑 MoE
热点事件持续更新
milpster 发布 gfx906 分支支持老 AMD 卡跑 MoE
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
开发者 milpster 发布开源项目 strata 的 gfx906 分支 fork,使 2019 年的 Radeon VII、MI50 等老旧 AMD 显卡能运行约 47GiB 的 MoE 模型(如 Swift/Qwen 系列),并支持以 ROCm 主机搭配闲置 NVIDIA 卡做混合推理;据其发布的基准,混合方案解码速度提升 49%。仓库固定 ROCm 6.1,附带完整构建指南、基准 harness 和会话日志以便复现,代价是 prefill 读取速度慢约 12%。
AI 根据报道生成 · 32 分钟前更新
最新进展11月7日 17:51
开源 fork 让 2019 年 Radeon VII 跑 47GiB MoE,解码提速 49%报道时间线
沿着报道,了解事件的不同侧面。
11月7日
- AGI Hunt开源 fork 让 2019 年 Radeon VII 跑 47GiB MoE,解码提速 49%
milpster 发布 strata 的 gfx906 fork,让 Radeon VII 等老旧 AMD 显卡可运行约 47GiB 的 MoE 模型,并支持 ROCm 主机与 NVIDIA 卡混合推理。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。