跳到正文
AGI Hunt· 9kSs·· 1 天前AI 评分16

M4 Pro 48GB Mac 本地运行 Qwen3.8 27B 的最优配置

M4 Pro 48GB 本地跑 Qwen3.8 27B,求最优配置

AI 导读

M4 Pro 48GB Mac 本地运行 Qwen3.8 27B 时,需在吞吐量、首 token 延迟、上下文长度和内存余量之间取得平衡,发帖人要求方案不低于 10 tps。评论区对 MTP、MLX 和量化方案看法不一,尚未形成统一推荐。

来源:AGI Hunt · agihunt.info