ik_llama.cpp 原生支持 Raon-1-nano
热点事件持续更新
ik_llama.cpp 原生支持 Raon-1-nano
1 篇报道1 个报道来源31 分钟前更新
先了解这件事
AI 综述
ik_llama.cpp 通过 PR #2903 原生支持 KRAFTON Raon-1-nano 3.1B,提交者同时实现运行时和 Hugging Face 到 GGUF 的转换器,并加入 MTP 投机解码,报告称可带来约 17% 的提速。 该功能可通过 `--spec-type mtp:nmax=1,pmin=0.0` 启用,并在纯 CPU 环境(i5-13420H,支持 AVX2+VNNI)上使用官方 Q4KM 量化模型(2.32 GiB)完成验证。不过,上游 llama.cpp 的对应支持仍待合并。
AI 根据报道生成 · 18 分钟前更新
报道时间线
沿着报道,了解事件的不同侧面。
11月12日
- AGI Huntik_llama.cpp 通过 PR #2903 原生支持 KRAFTON Raon-1-nano 3.1B,MTP 提速 17%
ik_llama.cpp 的 PR #2903 为 KRAFTON Raon-1-nano 3.1B 实现原生运行时与 HF→GGUF 转换器,并支持 MTP 投机解码。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。