AGI Hunt· bariskasikci·· 3 小时前AI 评分44
VibeSys 用 Agent 为 Trainium2 自动生成 Qwen3.8 推理引擎
AI 导读
VibeSys 用 Agent 在 AWS Trainium2 上为 Qwen3.8 自动生成推理引擎。VibeSys 上月曾在 AMD MI300A 上构建出性能超过调优版 SGLang 的推理引擎,其方案主张在新模型遇上新加速器时,由 Agent 自动生成适配异构硬件的 serving 引擎。
来源:AGI Hunt · agihunt.info