AGI Hunt· makneeee·· 2 小时前AI 评分68
开源工具 cudamemcpy-tuner 将 B300 分页内存拷贝提速约 5 倍
开源工具让 B300 上 cudaMemcpy 分页拷贝提速 5 倍
AI 导读
开发者 maknee 开源 cudamemcpy-tuner,通过自动调优绕过 pageable 传输的默认慢路径。1 GB 张量的 CPU→GPU 拷贝速度从 10.2 GB/s 提升至 51.5 GB/s,约提升 5 倍,使用 `cmt tune -- python bench.py` 即可调优。
来源:AGI Hunt · agihunt.info