跳到正文
热点事件持续更新

Inco开源DFlash 2推测解码模型

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

Inco AI发布并以Apache 2.0协议开源DFlash 2推测解码drafter,用于MiniMax M3.1 Flash,报告称生成速度最高可提升3.5倍。该模型采用块扩散drafter,贪婪解码输出与目标模型完全一致,采样时保持原分布;模型卡同时提供SGLang配置,包括8个draft tokens和fa4 attention backend。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月23日
  1. AGI Hunt
    Inco 开源 DFlash 2 drafter,为 MiniMax M3.1 Flash 提速最高 3.5 倍

    Inco AI 发布并以 Apache 2.0 协议开源 DFlash 2 推测解码 draft 模型,用于将 MiniMax M3.1 Flash 的生成速度提升至多 3.5 倍。其采用块扩散 drafter,贪婪解码输出与目标模型完全一致,采样则保持原分布;模型卡同时提供 SGLang 配置,包括 draft tokens 8 和 fa4 attention backend。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。