TensorFold 1.2.2 更新推理性能
热点事件持续更新
TensorFold 1.2.2 更新推理性能
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
本地推理引擎 TensorFold 发布 1.2.2 版本,在特定硬件和模型组合下提升推理速度:GB10 上运行 Qwen3.8-27B EXL3 时,2K—64K prompt 的 prefill 提速 38%—42%;M5 Max 上使用 Flash Next 解码时提速 36%—39%,该结果对应 SSD-backed embeddings 配置。 版本还为 GLM-OCR 增加原生 HIP 支持,并让 Qwen3.5-9B 支持 Metal。TensorFold 1.2.2 以 Apache-2.0 开源,同时兼容 OpenAI 和 Anthropic API。
AI 根据报道生成 · 2 小时前更新
最新进展11月4日 09:33
TensorFold 1.2.2 发布,GB10 上 Qwen3.8-27B EXL3 提速 38%-42%报道时间线
沿着报道,了解事件的不同侧面。
11月4日
- AGI HuntTensorFold 1.2.2 发布,GB10 上 Qwen3.8-27B EXL3 提速 38%-42%
TensorFold 发布 1.2.2 版本,主要更新包括 GB10 上 Qwen3.8-27B EXL3 在 2K-64K prompt 的 prefill 提速 38%-42%,以及 M5 Max 上 Flash Next 解码提速 36%-39%。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。