跳到正文
AGI Hunt· Any_Bus9205·· 4 小时前AI 评分65

ik_llama.cpp 原生支持中国电信 Xing4.0-29B-A4B MoE 模型

中国电信 Xing4.0-29B MoE 模型获 ik_llama.cpp 原生运行支持

AI 导读

作者通过 ik_llama.cpp 的 PR #2808,为中国电信 Xing4.0-29B-A4B MoE 模型提供原生运行支持。该模型总参数为 29.5B、约 4B 激活参数,支持 MLA 注意力、4 流 mHC 残差混合、稠密首层、路由专家与共享专家,并提供 HF→GGUF 转换脚本、量化保护和构建运行命令。

来源:AGI Hunt · agihunt.info