AGI Hunt· AnushElangovan·· 8 小时前AI 评分46
SemiAnalysis 实测:SGLang 在 AMD Mi355 的帧率优于 NVIDIA B200/B300
SemiAnalysis 实测:SGLang 在 AMD Mi355 帧率碾压 B200/B300
AI 导读
SemiAnalysis 发推展示实测对比,推理框架 SGLang 在 AMD Instinct Mi355 上的表现明显优于 NVIDIA B200/B300。该结果来自第三方半导体分析机构,显示 AMD 新一代 AI GPU 在 LLM 推理工作负载上对 NVIDIA 高端卡形成了竞争力。
来源:AGI Hunt · agihunt.info