跳到正文
热点事件持续更新

亚马逊审计九个规则基准并发布BAR修订集

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

亚马逊团队审计九个用于评估模型按税务、法律和商业规则决策的公开基准,称部分答案键和评分代码存在错误,曾将模型的正确回答误判为错误,并发布修订基准集BAR。 该论文同时质疑RuleArena、LegalBench等基准的可信度,表明部分模型成绩可能受到评分实现缺陷影响。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月9日
  1. AGI Hunt
    亚马逊论文审计发现多个规则类基准评分有误

    亚马逊团队发表《Follow the Policy, Fail the Benchmark》,审计九个评估 AI 模型按税务、法律与商业规则决策的公开基准。研究发现部分答案键和评分代码存在错误,导致正确答案被误判,并发布修订基准集 BAR,对 RuleArena、LegalBench 等基准的可信度提出质疑。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。