跳到正文
AGI Hunt· cryotic·· 1 小时前AI 评分58

双 Mac Studio 张量并行运行 GLM-5.3-Flash 达 140 tokens/s

双 Mac Studio 张量并行跑 GLM-5.3-Flash 达 140 tokens/s

AI 导读

开发者开源 GLM-Tandem 项目,通过两台 Mac Studio 对 GLM-5.3-Flash 进行张量并行部署,新写文本推理速度约 140 tokens/s。作者称这一方案经反复调试后已稳定可用,为本地运行大模型提供参考。

来源:AGI Hunt · agihunt.info