两台Mac Studio双模型部署实测

Viktri1称，其用两台256GB Mac Studio M5 Ultra分别运行Qwen Flash q6和GLM 3.5 Flash q4，承担快速响应与深度推理，双独立模型的效果优于tensorfold/exos集群方案；其还认为量化版GLM的编码能力超过DeepSeek官方API，但这是个人实测判断。 这套配置无法让GLM获得50万以上上下文，目前上限为26万、最多运行3个agent；热缓存设为32GB会造成内存耗尽并使速度下降70%。

AI 根据报道生成 · 43 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。