跳到正文
热点事件持续更新

TensorFold 1.3.3发布并提升GLM推理速度

1 篇报道1 个报道来源48 分钟前更新

先了解这件事

AI 综述

本地推理工具 TensorFold 发布 1.3.3 版本,24小时内合并124个PR并解决34个 issue。 在CUDA环境下,使用4张GB10(TP=4)处理长度为1,048,576 tokens的GLM-5.3-Flash长提示词时,drafted decode中位速度由151.51提升至172.39 tok/s,速度提升13.8%。

AI 根据报道生成 · 40 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月22日
  1. AGI Hunt
    TensorFold 1.3.3 发布:24 小时合并 124 个 PR,GLM 推理提速 13.8%

    TensorFold 发布 1.3.3,24 小时内合并 124 个 PR 并解决 34 个 issue。CUDA 下,GLM-5.3-Flash 在 4 张 GB10(TP=4)处理 1,048,576-token 长 prompt 时,drafted decode 中位数从 151.51 提升至 172.39 tok/s,速度快 13.8%。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。