TensorFold 1.2.10提升模型推理速度
热点事件持续更新
TensorFold 1.2.10提升模型推理速度
1 篇报道1 个报道来源59 分钟前更新
先了解这件事
AI 综述
本地推理引擎 TensorFold 发布 1.2.10,称在特定测试条件下,Qwen3.8-27B 在 GB10 上进行 8 路并发并共享 32K 前缀时,解码速度提升 57%,回复质量不变;DeepSeek-V4.1 在 M5 Ultra 上的冷启动 prompt 提速 5%–7%。 该版本新增后台响应以及 `tensorfold launch`、`tensorfold rm` 命令。TensorFold 支持 Apple Silicon、CUDA 和 AMD HIP/Vulkan,并提供 OpenAI 兼容 API。
AI 根据报道生成 · 21 分钟前更新
最新进展11月19日 07:52
TensorFold 1.2.10 发布:Qwen3.8-27B 解码提速 57%报道时间线
沿着报道,了解事件的不同侧面。
11月19日
- AGI HuntTensorFold 1.2.10 发布:Qwen3.8-27B 解码提速 57%
TensorFold 1.2.10 将 Qwen3.8-27B 在 GB10 上共享 32K 前缀、8 路并发时的解码速度提升 57%,回复质量不变。DeepSeek-V4.1 冷启动 prompt 在 M5 Ultra 上提速 5–7%,并新增后台响应、tensorfold launch 与 tensorfold rm 命令。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。