双后端混用推理引擎提交PR
热点事件持续更新
双后端混用推理引擎提交PR
1 篇报道1 个报道来源43 分钟前更新
先了解这件事
AI 综述
开发者 Ren-WuJun 提交了基于 Project MAYA 的推理引擎分支，使 RTX 5090 的 CUDA 后端与 Strix Halo iGPU 的 ROCm 后端能够在同一进程内协同运行 GLM 5.3-Flash Maya-M GGUF，实测最高提速 48%。其中，5090 负责注意力、稠密/共享层和专家缓存，iGPU 执行互补专家，并共同参与 prefill 与 decode。 该实现已提交 GitHub PR，新增约 3739 行代码；Project MAYA 作者认可这一设计，计划测试后再决定是否合并。
AI 根据报道生成 · 31 分钟前更新
最新进展11月10日 10:09
Project MAYA fork 实现 CUDA 与 ROCm 双后端混用，推理最高提速 48%报道时间线
沿着报道，了解事件的不同侧面。
11月10日
- AGI HuntProject MAYA fork 实现 CUDA 与 ROCm 双后端混用，推理最高提速 48%
开发者基于 Project MAYA 推理引擎开发 fork，让 RTX 5090 的 CUDA 后端与 Strix Halo iGPU 的 ROCm 后端在同一进程内协同运行 GLM 5.3-Flash Maya-M GGUF，实测最高提速 48%。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。