跳到正文
AGI Hunt· HankYeomans·· 2 小时前AI 评分54

TensorFold 1.2.3 发布:GB10 NVFP4 解码提速 21%,M3 Ultra 长上下文耗时降至 8 秒

TensorFold 1.2.3 发布:GB10 NVFP4 解码提速 21%,M3 Ultra 长上下文 48 秒缩至 8 秒

AI 导读

TensorFold 1.2.3 发布,Flash Next 引擎在双 GB10 NVFP4 TP=2 测试中使纯解码提速 21%–23%,每 rank 节省 2.62 GiB 模型显存;M3 Ultra 并行服务处理 64K prompt 和 1024 token 回复的耗时从 48 秒降至 8 秒。

来源:AGI Hunt · agihunt.info