跳到正文
AGI Hunt· tri_dao·· 3 小时前AI 评分61

PyTorch 新增 flex_gemm API,可将 epilogue 融合进 GEMM

PyTorch 新增 flex_gemm API:普通函数写 GEMM 融合 epilogue

AI 导读

PyTorch 新增基于 Quack 构建的 flex_gemm API,允许用普通 PyTorch 函数将 epilogue 融合进 GEMM,在单 kernel 内于寄存器累加器上完成计算后写回。

来源:AGI Hunt · agihunt.info