跳到正文
热点事件持续更新

开发者开源 Saturate 批量推理库

1 篇报道1 个报道来源1 小时前更新

先了解这件事

AI 综述

开发者 vanstriendaniel 在 GitHub 开源了 Apache-2.0 许可的批量推理库 Saturate,用于在单块 GPU 上批量处理文档 OCR。 在其化石燃料行业文档任务中,Saturate 经 Hugging Face Jobs 对 14,483 页完成 OCR,总成本为 1.47 美元,吞吐达到 8.9 页/秒;未手动调整并发时,系统自适应至 512,并可输出支持恢复的 parquet 数据集。该成本和速度对应此次文档任务,并非 Saturate 所有操作的通用计费承诺。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月2日
  1. AGI Hunt
    开发者用 Saturate 和一块 GPU 以 $1.47 重做 14,483 页文档 OCR

    开发者 vanstriendaniel 使用开源批量推理库 Saturate,在一块 GPU 上完成 14,483 页化石燃料行业文档的 OCR,总成本为 $1.47,吞吐达到 8.9 页/秒。任务经 Hugging Face Jobs 运行,Saturate 未经过手动并发调优便自适应收敛到 512,并可输出可恢复的 parquet 数据集。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。