开源编码代理评测任务包发布
热点事件持续更新
开源编码代理评测任务包发布
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
olusola-titilayo 在 GitHub 开源 agentic-task-pack,提供三个原创编码智能体评测任务;每项包含指令、初始代码仓库、参考修复、隐藏测试和诱导性局部修复,并通过 swe-task-validator 的11项检查。 三个 Claude 智能体分别独立接收对应任务的指令和初始仓库,未接触隐藏测试与参考修复,测试通过率分别为11/11、12/12和14/14。作者称这只是同一模型每题单次运行的样本,样本量不足以精确衡量任务难度;任务包采用 MIT 许可证。
AI 根据报道生成 · 2 小时前更新
最新进展11月3日 18:57
olusola-titilayo 发布 agentic-task-pack 编码智能体评测任务集报道时间线
沿着报道,了解事件的不同侧面。
11月3日
- GitHub 新星仓库olusola-titilayo 发布 agentic-task-pack 编码智能体评测任务集
olusola-titilayo 发布 agentic-task-pack,包含 3 项原创编码智能体评测任务,每项包含指令、基础代码仓库、参考修复、隐藏测试和诱导性局部修复。任务均通过 swe-task-validator 的 11 项检查,三个 Claude 智能体独立完成测试的通过率分别为 11/11、12/12 和 14/14;作者同时说明单模型单次样本不足以衡量任务难度。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。