跳到正文
AGI Hunt· berkeley_ai·· 3 小时前AI 评分46

SpecPilot 编码智能体将 DFlash2 投机解码加速提升至 10.87×

编码智能体让投机解码提速超一倍,DFlash2 达 10.87×

AI 导读

SpecPilot 项目展示,仅向编码智能体提供 GPU 和一条“保持无损”规则,就将 DFlash2 相对 AR 基线的加速比从 4.46× 提升至 10.87×,且无需训练。团队还提出无损 12-bit 数值格式,其 GEMM 性能超过 cuBLAS。

来源:AGI Hunt · agihunt.info