AGI Hunt· ying11231·· 3 小时前AI 评分58
SGLang 与 AWS 推出 Trainium 插件 beta,支持 Trainium2/3 推理与 RL
SGLang 携手 AWS 推出 Trainium 插件 beta,支持 Trainium2/3 推理与 RL
AI 导读
SGLang 与 AWS 基于 TorchNeuron 推出 AWS Trainium 插件 beta,可运行在 Trainium2 和 Trainium3 上。
来源:AGI Hunt · agihunt.info