跳到正文
AGI Hunt· AnushElangovan·· 8 小时前AI 评分46

SemiAnalysis 实测:SGLang 在 AMD Mi355 的帧率优于 NVIDIA B200/B300

SemiAnalysis 实测:SGLang 在 AMD Mi355 帧率碾压 B200/B300

AI 导读

SemiAnalysis 发推展示实测对比,推理框架 SGLang 在 AMD Instinct Mi355 上的表现明显优于 NVIDIA B200/B300。该结果来自第三方半导体分析机构,显示 AMD 新一代 AI GPU 在 LLM 推理工作负载上对 NVIDIA 高端卡形成了竞争力。

来源:AGI Hunt · agihunt.info