跳到正文
热点事件持续更新

cmm324开源自托管模型注册表Model Delivery

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

cmm324为批处理推理系统Otium构建并开源了自托管Hugging Face模型镜像注册表Model Delivery,用于解决AWS Spot worker启动时依赖Hugging Face Hub可用性的问题。注册表支持提前镜像指定revision、保留上游revision ID,并进行下载文件与HF报告哈希校验;镜像完成后将HFENDPOINT指向该注册表,vLLM即可照常下载权重。其运行形式为单个二进制文件,使用SQLite和磁盘文件。

AI 根据报道生成 · 39 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月19日
  1. AGI Hunt
    开发者开源 Hugging Face 镜像注册表 Model Delivery

    cmm324 为批处理推理系统 Otium 构建并开源了自托管模型注册表 Model Delivery,使 AWS Spot worker 在 Hugging Face Hub 不可用时仍能启动。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。