跳到正文
热点事件持续更新

Mac Studio本地运行DeepSeek实测

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

Reddit用户vhthc使用512GB内存的Mac Studio M5 Ultra,通过omlx运行DeepSeek-V4.1-Flash-1017-oQ4e-mtp;实测在128K上下文下,提示词处理速度约为1100 t/s,生成速度约为54 t/s。 该用户称,超过128K上下文会拖慢提示处理和生成速度,多个并发请求会分摊最大生成速度;为节省内存,其将engram存入SSD。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月17日
  1. AGI Hunt
    Mac Studio M5 Ultra 512GB本地运行DeepSeek-V4.1-Flash实测

    Reddit用户购买Mac Studio M5 Ultra(512GB内存)后,使用omlx本地运行DeepSeek-V4.1-Flash-1017-oQ4e-mtp,在128K上下文下达到约1100 t/s的prompt处理速度和54 t/s的生成速度。实测发现,超过128K上下文会拖慢两种速度,多个并发请求会瓜分最大生成速度;作者还将engram存入SSD以节省内存。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。