JetBrains开源Mellum 2.1 MTP模型
热点事件持续更新
JetBrains开源Mellum 2.1 MTP模型
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
JetBrains 在 Hugging Face 发布并开源 Mellum2.1-12B-A2.5B-Thinking 的 MTP 版本，以额外训练的一个 Transformer 块生成推测草稿，再由主模型逐词元验证。JetBrains 称，在输出保持不变的前提下，该方案可将解码速度提升1.4至1.8倍，草稿接受率约为90%。 模型权重和推理配置已同步提供，可用于 vLLM 0.33及以上的 MTP 推测解码、Transformers 5.20及以上的 generate 调用，以及 llama.cpp 的 draft-mtp 模式。
AI 根据报道生成 · 2 小时前更新
最新进展11月2日 11:58
JetBrains 开源 Mellum2.1 Thinking MTP 头，解码提速 1.4–1.8 倍报道时间线
沿着报道，了解事件的不同侧面。
11月2日
- AGI HuntJetBrains 开源 Mellum2.1 Thinking MTP 头，解码提速 1.4–1.8 倍
JetBrains 在 Hugging Face 发布 Mellum2.1-12B-A2.5B-Thinking 的 MTP 版本，将额外一个 Transformer 块与主模型联合训练，并在推理时用作 speculative draft。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。