AGI Hunt· mit-han-lab·· 40 分钟前AI 评分68
MIT Han Lab 等发布 Agent 自适应推理框架 Evolving Infra，延迟较 NVIDIA Dynamo 最多降低 4.1 倍
MIT Han Lab 等发布 Agent 自适应推理框架，延迟较 NVIDIA Dynamo 降 4.1 倍
AI 导读
MIT Han Lab 联合 Georgia Tech、UIUC、UC Berkeley、NVIDIA、OpenAI 等发布并开源 Agent 自适应 LLM 推理服务框架 Evolving Infra。
来源：AGI Hunt · agihunt.info