跳到正文
AGI Hunt· vllm_project·· 2 小时前AI 评分57

vLLM 核心开发者创办 Inferact 构建自治推理系统

vLLM 团队创业做 Inferact:围绕 vLLM 打造自治推理系统

AI 导读

vLLM 核心开发者 Simon Mo 说明新公司 Inferact 围绕 vLLM 构建自治推理系统。Inferact 的目标是改进 vLLM 引擎并实现自我改进,同时明确开源项目与商业化方向的维护边界。

来源:AGI Hunt · agihunt.info