跳到正文
热点事件持续更新

Agent榜单评测错误足以改变排名

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

arXiv论文作者审计HAL和tau2-bench的公开运行记录后称,评测流程存在四类不会报错的静默错误,足以改变Agent榜单排名;补评后,原有13分差距变为平局。 论文还称,使用新版评分器重评tau2-bench后,部分分数漂移7分至2.5分,其中一个telecom案例的分数变动82分,但运行过程未显示任何错误提示。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月10日
  1. AGI Hunt
    arXiv 论文揭示 Agent 榜单四类静默 bug,13 分差距实为平局

    arXiv 论文《Silent Instrument Errors Reorder Agent Leaderboards》基于 HAL 和 tau2-bench 的公开运行记录,发现四类未报错的评测错误,足以重排 Agent 榜单。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。