跳到正文
AGI Hunt· HankYeomans·· 2 小时前AI 评分21

开发者首秀:用 ExLlamaV3 对 DeepSeek 4.1 进行 EXL3 量化

开发者首秀:用 ExLlamaV3 对 DeepSeek 4.1 做 EXL3 量化

AI 导读

一位开发者首次尝试使用 ExLlamaV3 的 EXL3 量化方案处理 DeepSeek 4.1,目标是亲手完成模型量化,而非直接使用现成模型。过程中,他借助 Ampcode 作为学习伙伴,通过持续追问构建“大脑”和训练流程,并首次愿意以语音而非打字方式与 AI 服务交流。

来源:AGI Hunt · agihunt.info