跳到正文
AGI Hunt· Jianing Yin·· 4 小时前AI 评分53

VerifierBench 用 222 个任务实测 LLM Agent 验证器可靠性

VerifierBench:222 个任务实测 LLM Agent 生成的验证器有多不可靠

AI 导读

宾大、UIUC、UC Berkeley、NYU 等机构团队发布 VerifierBench,评估 AI 智能体为任务生成可执行验证器的可靠性。基准覆盖工具调用、基于状态和代码验证三类任务,包含 222 个任务与 4,993 个隐藏测试用例。研究发现,智能体生成的验证器常因隐含假设错误拒绝正确解,论文建议测试验证器对多样化正确答案的接受度,因为错误验证器会影响 RL 中的奖励与合成训练数据过滤。

来源:AGI Hunt · agihunt.info