Inco开源DFlash 2推测解码模型
热点事件持续更新
Inco开源DFlash 2推测解码模型
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Inco AI发布并以Apache 2.0协议开源DFlash 2推测解码drafter,用于MiniMax M3.1 Flash,报告称生成速度最高可提升3.5倍。该模型采用块扩散drafter,贪婪解码输出与目标模型完全一致,采样时保持原分布;模型卡同时提供SGLang配置,包括8个draft tokens和fa4 attention backend。
AI 根据报道生成 · 1 小时前更新
最新进展10月23日 10:07
Inco 开源 DFlash 2 drafter,为 MiniMax M3.1 Flash 提速最高 3.5 倍报道时间线
沿着报道,了解事件的不同侧面。
10月23日
- AGI HuntInco 开源 DFlash 2 drafter,为 MiniMax M3.1 Flash 提速最高 3.5 倍
Inco AI 发布并以 Apache 2.0 协议开源 DFlash 2 推测解码 draft 模型,用于将 MiniMax M3.1 Flash 的生成速度提升至多 3.5 倍。其采用块扩散 drafter,贪婪解码输出与目标模型完全一致,采样则保持原分布;模型卡同时提供 SGLang 配置,包括 draft tokens 8 和 fa4 attention backend。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。