跳到正文
AGI Hunt· PyTorch·· 58 分钟前AI 评分58

PyTorch 推出 CUDA Tile Python DSL 与 tile 级内核原语

PyTorch 推出 CUDA Tile:Python DSL 写 tile 级内核自动吃满 Tensor Core

AI 导读

PyTorch 官方介绍 CUDA Tile,一套基于 Python 的 DSL 和 tile 级原语,可自动面向 Tensor Core 等高级 GPU 硬件特性优化内核。该方案能把 PyTorch 中分开计算多项的直接实现融合成单个 tiled kernel,并将矩阵保留在寄存器中,官方同时提供了示例、文档和样例代码。

来源:AGI Hunt · agihunt.info