AGI Hunt· Felladrin·· 1 小时前AI 评分55
Comet 60B 发布保留 MTP 头的 GGUF 量化版
Comet 60B (A12B) 已有 GGUF 量化版,保留 MTP 头可投机解码
AI 导读
Felladrin 将 Comet 60B(A12B)转换为两个可在原版 llama.cpp 上运行的 GGUF 量化版,分别采用 Q4KM 和 Q80。量化文件保留了 MTP 头,启动 llama-server 时添加 --spec-type draft-mtp 即可启用投机解码加速;两个版本目前仅支持文本,尚未转换视觉塔。
来源:AGI Hunt · agihunt.info