DeepSeek V4.1 Flash EXL3量化版上线
热点事件持续更新
DeepSeek V4.1 Flash EXL3量化版上线
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
社区开发者 HankYeomans 发布并上传了 DeepSeek V4.1 Flash 的 EXL3 量化版,压缩至 2.81bpw;配合其自研 TurboEXL3 融合内核进行流式推理时,实测解码约 57 tps、prefill 约 1400 tps,较旧版分别提升约 60% 和 90%。 该版本已在 Hugging Face 提供,并附带适配 jinja.cpp 的聊天模板,支持 thinking mode 的 chat/thinking 模式,以及 low/high/max 或 1–100 等 reasoningeffort 参数。
AI 根据报道生成 · 1 小时前更新
最新进展11月2日 09:10
DeepSeek V4.1 Flash EXL3 量化版上线,解码提速 60%报道时间线
沿着报道,了解事件的不同侧面。
11月2日
- AGI HuntDeepSeek V4.1 Flash EXL3 量化版上线,解码提速 60%
DeepSeek V4.1 Flash 的 EXL3 量化版以 2.81bpw 上线,解码速度提升约 60%。配合 TurboEXL3 融合内核,实测解码约 57 tps、prefill 约 1400 tps,分别提速约 60% 和 90%。量化版本已上传 Hugging Face,并支持 thinkingmode 与 reasoningeffort 参数。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。