Datalab称olmOCR-bench存在判分错误
热点事件持续更新
Datalab称olmOCR-bench存在判分错误
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
Datalab复核olmOCR-bench后称，olmOCR-2在200个测试页中有119页获满分，但其中68页的判分本身有误；基准的header规则还会系统性偏向省略页眉的模型。Datalab据此提出五项检查，包括确认ground truth是否接近满分、人为改错5%的数字、变换表格格式、删除页面，以及人工核查失败案例。
AI 根据报道生成 · 58 分钟前更新
最新进展11月5日 05:12
Datalab 拆解 olmOCR-bench：200 页中 68 页判分有误并提出 5 项检查报道时间线
沿着报道，了解事件的不同侧面。
11月5日
- AGI HuntDatalab 拆解 olmOCR-bench：200 页中 68 页判分有误并提出 5 项检查
Datalab 拆解 olmOCR-bench，发现 olmOCR-2 在 200 页中有 119 页获得 100%，但复核显示其中 68 页的判分本身有误。其 header 规则还会系统性偏好省略页眉的模型。配套博客提出 5 项检查，包括测试 ground truth 是否接近满分、人为改错 5% 数字、变换表格格式、抽掉页面以及人工核查失败案例。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。