跳到正文
AGI Hunt· ycombinator·· 3 小时前AI 评分67

RunAnywhereAI 开源 TrnRT,在单台 Trainium2 上运行 GLM-5.3-Flash

开源 TrnRT 引擎在单台 Trainium2 跑 GLM-5.3-Flash,每分钟 357 万 token

AI 导读

RunAnywhereAI 团队开源了 Trainium 推理引擎 TrnRT,用于在 AWS Trainium 上运行开源模型。

来源:AGI Hunt · agihunt.info