跳到正文
AGI Hunt· xiaosun86·· 2 小时前AI 评分61

AMD 团队详解 warp-pipelining 在 MI300/350/450 上的 Triton GEMM 实践

AMD 团队详解 warp-pipelining:Triton GEMM 在 MI300/350/450 上追平手写汇编

AI 导读

AMD ROCm 团队讲解 warp-pipelining 在 Triton GEMM 中的调度方法,通过让两组 wave 错峰执行来隐藏数据准备开销。在 MI355X 的 FP16 GEMM 测试中,8-wave kernel 达到 1,437 TFLOP/s,与手工调优的 4-wave kernel 的 1,425 TFLOP/s 持平。

来源:AGI Hunt · agihunt.info