跳到正文
AGI Hunt· AnushElangovan·· 2 小时前AI 评分34

Blackwell 实测:mxfp6 吞吐仅略高于 mxfp8,fp4 GEMM 快得多

实测 Blackwell:mxfp6 吞吐仅略高于 mxfp8,fp4 GEMM 快得多

AI 导读

有人在 Blackwell GPU 上实测 mxfp6 精度的 GEMM,结果显示其吞吐仅略高于 mxfp8,而 (mx/nv)fp4 的 GEMM 明显快于两者。转发者补充称,若使用 MI355 进行同样实验,mxfp6 的表现会更接近 mxfp4。

来源:AGI Hunt · agihunt.info