跳到正文
AGI Hunt· AIFlow_ML·· 1 小时前AI 评分42

TensorFold 1.3.3 发布:24 小时合并 124 个 PR,GLM 推理提速 13.8%

TensorFold 1.3.3 发布:24 小时合并 124 个 PR,GLM 推理提速 13.8%

AI 导读

TensorFold 发布 1.3.3,24 小时内合并 124 个 PR 并解决 34 个 issue。CUDA 下,GLM-5.3-Flash 在 4 张 GB10(TP=4)处理 1,048,576-token 长 prompt 时,drafted decode 中位数从 151.51 提升至 172.39 tok/s,速度快 13.8%。

来源:AGI Hunt · agihunt.info