AGI Hunt· HankYeomans·· 2 小时前AI 评分54
TensorFold 1.2.3 发布:GB10 NVFP4 解码提速 21%,M3 Ultra 长上下文耗时降至 8 秒
TensorFold 1.2.3 发布:GB10 NVFP4 解码提速 21%,M3 Ultra 长上下文 48 秒缩至 8 秒
AI 导读
TensorFold 1.2.3 发布,Flash Next 引擎在双 GB10 NVFP4 TP=2 测试中使纯解码提速 21%–23%,每 rank 节省 2.62 GiB 模型显存;M3 Ultra 并行服务处理 64K prompt 和 1024 token 回复的耗时从 48 秒降至 8 秒。
来源:AGI Hunt · agihunt.info