跳到正文
热点事件持续更新

MaxxBench揭示编码基准的格式敏感性

1 篇报道1 个报道来源1 小时前更新

先了解这件事

AI 综述

notesbydev发布的MaxxBench研究线索称,六种编码智能体配置在DeepSWE基准上的得分接近,均约为74%,彼此差距不到1.5分;但将文件名改为小写或要求使用UTC时间戳后,最高与最低分差扩大至23分。 这表明编码智能体的基准成绩不仅取决于任务内容,也会受到指令格式与智能体训练或执行习惯是否匹配的影响。

AI 根据报道生成 · 50 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月15日
  1. AGI Hunt
    MaxxBench:微改任务格式,编码智能体成绩骤差 23 分

    MaxxBench 发布研究线索:六种编码智能体配置在 DeepSWE 基准上的得分相差不到 1.5 分,均约为 74%。仅将文件名改为小写或要求 UTC 时间戳,分差便扩大至 23 分,说明基准成绩还受任务格式契合度影响。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。