AGI Hunt· cryotic·· 1 小时前AI 评分58
双 Mac Studio 张量并行运行 GLM-5.3-Flash 达 140 tokens/s
双 Mac Studio 张量并行跑 GLM-5.3-Flash 达 140 tokens/s
AI 导读
开发者开源 GLM-Tandem 项目,通过两台 Mac Studio 对 GLM-5.3-Flash 进行张量并行部署,新写文本推理速度约 140 tokens/s。作者称这一方案经反复调试后已稳定可用,为本地运行大模型提供参考。
来源:AGI Hunt · agihunt.info