跳到正文
AGI Hunt· cmm324·· 2 小时前AI 评分71

开发者开源 Hugging Face 镜像注册表 Model Delivery

开发者开源 Hugging Face 镜像注册表,Hub 挂了也能启动推理 worker

AI 导读

cmm324 为批处理推理系统 Otium 构建并开源了自托管模型注册表 Model Delivery,使 AWS Spot worker 在 Hugging Face Hub 不可用时仍能启动。

来源:AGI Hunt · agihunt.info