跳到正文
AGI Hunt· Yu Jiang·· 2 小时前AI 评分45

DEPTH 研究揭示长程终端任务基准深度虚高:轮数反映模型习惯,按依赖深度合成更难任务

研究揭示终端任务基准深度虚高:轮数只反映模型习惯,DEPTH 按依赖深度合成更难任务

AI 导读

Notre Dame、IBM Research、CMU 等机构研究指出,长程终端任务基准以模型完成轮数衡量任务长度、以 LLM 设置的标签衡量难度,但前者主要反映模型习惯,后者几乎不能预测通过率。DEPTH 按顺序依赖深度度量并合成更难任务,用这些任务进行 agent 微调可带来提升,为 agent 评测与训练数据合成提供方法论启示。

来源:AGI Hunt · agihunt.info