跳到正文
The Decoder· Jonathan Kemper·· 2 小时前AI 评分63

Co-Design Bench 真实任务测试显示近四分之三编码任务仍需人工收尾

AI coding agents still need human cleanup on nearly three out of four tasks in a real-world test

AI 导读

Alibaba 与多所亚洲高校的研究团队发布 Co-Design Bench,用真实用户变更请求测试编码智能体。10 个模型中,GPT-6 Astra 平均满足约 70% 的任务要求,但仅在 26.4% 的任务中完全正确;随着任务包含更多变更类型,所有模型表现均下降。研究还发现工作环境会显著影响结果,因此报告模型成绩时应同时说明运行环境。

来源:The Decoder · the-decoder.com