跳到正文
热点事件持续更新

TensorFold 1.2.10提升模型推理速度

1 篇报道1 个报道来源59 分钟前更新

先了解这件事

AI 综述

本地推理引擎 TensorFold 发布 1.2.10,称在特定测试条件下,Qwen3.8-27B 在 GB10 上进行 8 路并发并共享 32K 前缀时,解码速度提升 57%,回复质量不变;DeepSeek-V4.1 在 M5 Ultra 上的冷启动 prompt 提速 5%–7%。 该版本新增后台响应以及 `tensorfold launch`、`tensorfold rm` 命令。TensorFold 支持 Apple Silicon、CUDA 和 AMD HIP/Vulkan,并提供 OpenAI 兼容 API。

AI 根据报道生成 · 21 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月19日
  1. AGI Hunt
    TensorFold 1.2.10 发布:Qwen3.8-27B 解码提速 57%

    TensorFold 1.2.10 将 Qwen3.8-27B 在 GB10 上共享 32K 前缀、8 路并发时的解码速度提升 57%,回复质量不变。DeepSeek-V4.1 冷启动 prompt 在 M5 Ultra 上提速 5–7%,并新增后台响应、tensorfold launch 与 tensorfold rm 命令。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。