跳到正文
AGI Hunt· HamelHusain·· 3 小时前AI 评分68

Hamel Husain质疑Terminal-Bench等四项主流基准的质量

Hamel Husain质疑主流基准质量:Terminal-Bench等四大基准均被判Flawed

AI 导读

Hamel Husain援引Epoch AI的独立审查结果,质疑行业公开基准与其质量不匹配。Terminal-Bench 4.0.0有45.5%的任务存在评分缺陷,DeepSWE v1.1至少20.3%的任务存在假阴性,OSWorld 2.1和HealthBench Professional抽审任务中分别有72%和50%存在错误。

来源:AGI Hunt · agihunt.info