AGI Hunt· vllm_project·· 3 小时前AI 评分31
vLLM 新加坡 meetup:NVIDIA、阿里云等分享高吞吐 prefill 与 Blackwell 实践
AI 导读
vLLM 官方宣布 11 月 13 日在新加坡 SQ Collective 举办半天技术 meetup,免费入场但需报名审核。Inferact 将分享 vLLM 高吞吐 prefill 的流水线并行优化,NVIDIA 聚焦 SM12x(工作站级 Blackwell)效率与企业级 agent 基础设施,阿里云则覆盖模型、训练、推理到 MaaS 的全栈实践。
来源:AGI Hunt · agihunt.info