跳到正文
AGI Hunt· TheZachMueller·· 3 小时前AI 评分35

RTX 6000 工作站实测 GLM 5.3 Flash,调优后吞吐升至 242 tok/s

AI 导读

开发者通过逐阶段调优,让 GLM 5.3 Flash NVFP4 量化版本在 4 张功率锁定 450W 的 RTX 6000 Workstation 上将吞吐从 162 tok/s 提升至 242 tok/s。对比图显示 V2 版本较 V1 吞吐大幅提升,为 workstation 级部署提供实测参考。

来源:AGI Hunt · agihunt.info