跳到正文
AGI Hunt· pmttyji·· 3 小时前AI 评分51

JetBrains 开源 Mellum2.1 Thinking MTP 头,解码提速 1.4–1.8 倍

JetBrains 开源 Mellum2.1 Thinking MTP 头,解码提速 1.4-1.8 倍

AI 导读

JetBrains 在 Hugging Face 发布 Mellum2.1-12B-A2.5B-Thinking 的 MTP 版本,将额外一个 Transformer 块与主模型联合训练,并在推理时用作 speculative draft。

来源:AGI Hunt · agihunt.info