跳到正文
热点事件持续更新

milpster 发布 gfx906 分支支持老 AMD 卡跑 MoE

1 篇报道1 个报道来源1 小时前更新

先了解这件事

AI 综述

开发者 milpster 发布开源项目 strata 的 gfx906 分支 fork,使 2019 年的 Radeon VII、MI50 等老旧 AMD 显卡能运行约 47GiB 的 MoE 模型(如 Swift/Qwen 系列),并支持以 ROCm 主机搭配闲置 NVIDIA 卡做混合推理;据其发布的基准,混合方案解码速度提升 49%。仓库固定 ROCm 6.1,附带完整构建指南、基准 harness 和会话日志以便复现,代价是 prefill 读取速度慢约 12%。

AI 根据报道生成 · 32 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月7日
  1. AGI Hunt
    开源 fork 让 2019 年 Radeon VII 跑 47GiB MoE,解码提速 49%

    milpster 发布 strata 的 gfx906 fork,让 Radeon VII 等老旧 AMD 显卡可运行约 47GiB 的 MoE 模型,并支持 ROCm 主机与 NVIDIA 卡混合推理。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。