LlamaIndex 17 项小优化使 OCRia-1 单卡 B200 token 生成提速近 10 倍

LlamaIndex 团队披露通过 17 项小优化，将 OCRia-1 在单张 B200 上的 token 生成速度提升近 10 倍。每项改动同时验证速度与精度，单项收益通常为 2–5%，基础设施团队还发布了完整复盘，部分优化计划回馈开源 vLLM 项目。