AGI Hunt· caglarml·· 3 小时前AI 评分43
FlashMap:基于流映射的投机解码让 Qwen3-8B 推理提速超 6 倍
FlashMap 投机解码基于流映射,Qwen3-8B 推理提速超 6 倍
AI 导读
jeffshen 团队发布 FlashMap 投机解码新算法,并公开项目页与 arXiv 论文。该方法以 flow map 语言模型作为 drafter,通过 1-2 次前向捕捉 token 间依赖,在 Qwen3-8B 上实现超过 6 倍的推理加速。
来源:AGI Hunt · agihunt.info