开发者征询FP32高精度价值

独立开发者 ZenZombie117 就 Xyntetik-Runner 是否应坚持 FP32 高激活精度向社区征求意见，目前尚无定论。其测试显示，Runner 在多数模型上的保真度优于 llama.cpp，但 CUDA 和 Metal 运行速度明显落后；开发者原本认为高精度有助于工具调用、LoRA 训练与推理一致性及长时 Agent 工作流，但尚未证实这些收益能否抵消速度代价。 为改善性能，1.5.0 版本及后续修正版正加入 tensor-core GEMM、分块注意力、CUDA graphs、MoE 和量化内核等优化，后续计划覆盖 CUDA、Metal 与 CPU，能否追回速度差距仍待验证。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。