跳到正文
热点事件持续更新

DeepSeek V4.1 Flash EXL3量化版上线

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

社区开发者 HankYeomans 发布并上传了 DeepSeek V4.1 Flash 的 EXL3 量化版,压缩至 2.81bpw;配合其自研 TurboEXL3 融合内核进行流式推理时,实测解码约 57 tps、prefill 约 1400 tps,较旧版分别提升约 60% 和 90%。 该版本已在 Hugging Face 提供,并附带适配 jinja.cpp 的聊天模板,支持 thinking mode 的 chat/thinking 模式,以及 low/high/max 或 1–100 等 reasoningeffort 参数。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月2日
  1. AGI Hunt
    DeepSeek V4.1 Flash EXL3 量化版上线,解码提速 60%

    DeepSeek V4.1 Flash 的 EXL3 量化版以 2.81bpw 上线,解码速度提升约 60%。配合 TurboEXL3 融合内核,实测解码约 57 tps、prefill 约 1400 tps,分别提速约 60% 和 90%。量化版本已上传 Hugging Face,并支持 thinkingmode 与 reasoningeffort 参数。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。