AGI Hunt· AIFlow_ML·· 3 天前AI 评分54
开源推理框架 TensorFold 1.3.0 发布,GLM-5.3-Flash 吞吐提升至 104 tok/s
TensorFold 1.3.0 发布:GLM-5.3-Flash 吞吐提升 24% 至 104 tok/s
AI 导读
开源推理框架 TensorFold 发布 1.3.0,GLM-5.3-Flash 在两块 RTX PRO 6000 Blackwell 上以 CUDA/TP=2 运行时,吞吐从 83.8 提升至 104.1 tok/s。
来源:AGI Hunt · agihunt.info