跳到正文
AGI Hunt· solyarisoftware·· 1 小时前AI 评分72

开发者开源 llama-modchip,以 64GB 内存零 GPU 运行 DeepSeek-V4-Flash

开发者把 284B 参数 DeepSeek 模型塞进 64GB 内存,零 GPU 跑通

AI 导读

开发者 synchopate 开源修改版 llama.cpp 推理栈 llama-modchip,使 284.33B 总参数、约 13B 激活参数的 DeepSeek-V4-Flash 可在仅 CPU 和 64GB DDR5 内存的环境中运行。

来源:AGI Hunt · agihunt.info