TensorFold 1.3.3发布并提升GLM推理速度
热点事件持续更新
TensorFold 1.3.3发布并提升GLM推理速度
1 篇报道1 个报道来源48 分钟前更新
先了解这件事
AI 综述
本地推理工具 TensorFold 发布 1.3.3 版本,24小时内合并124个PR并解决34个 issue。 在CUDA环境下,使用4张GB10(TP=4)处理长度为1,048,576 tokens的GLM-5.3-Flash长提示词时,drafted decode中位速度由151.51提升至172.39 tok/s,速度提升13.8%。
AI 根据报道生成 · 40 分钟前更新
最新进展11月22日 07:36
TensorFold 1.3.3 发布:24 小时合并 124 个 PR,GLM 推理提速 13.8%报道时间线
沿着报道,了解事件的不同侧面。
11月22日
- AGI HuntTensorFold 1.3.3 发布:24 小时合并 124 个 PR,GLM 推理提速 13.8%
TensorFold 发布 1.3.3,24 小时内合并 124 个 PR 并解决 34 个 issue。CUDA 下,GLM-5.3-Flash 在 4 张 GB10(TP=4)处理 1,048,576-token 长 prompt 时,drafted decode 中位数从 151.51 提升至 172.39 tok/s,速度快 13.8%。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。