跳到正文
AGI Hunt· vhthc·· 2 小时前AI 评分58

Mac Studio M5 Ultra 512GB本地运行DeepSeek-V4.1-Flash实测

M5 Ultra 512GB 本地跑 DeepSeek Flash:128K上下文生成54 t/s

AI 导读

Reddit用户购买Mac Studio M5 Ultra(512GB内存)后,使用omlx本地运行DeepSeek-V4.1-Flash-1017-oQ4e-mtp,在128K上下文下达到约1100 t/s的prompt处理速度和54 t/s的生成速度。实测发现,超过128K上下文会拖慢两种速度,多个并发请求会瓜分最大生成速度;作者还将engram存入SSD以节省内存。

来源:AGI Hunt · agihunt.info