AGI Hunt· vanstriendaniel·· 2 小时前AI 评分50
单张 RTX PRO 6000 运行 LightOnOCR-3-0.8B 的实测与复现
单张 RTX 跑 LightOnOCR 0.8B,14483 页文档 OCR 仅花 1.67 美元
AI 导读
作者使用 LightOnOCR-3-0.8B，在单张 RTX PRO 6000 上配合 Hugging Face Jobs 和 vLLM 完成 14,483 页化石燃料行业文档 OCR。稳定运行后速度约为 7.7 页/秒，总成本 1.67 美元，折合约 0.12 美元/千页。作者还针对 Hugging Face Jobs 调优运行方案，并提供一条命令即可复现的脚本。
来源：AGI Hunt · agihunt.info