Bug Hunt Bench盲测榜单揭示模型修复覆盖
先了解这件事
Pawel Huryn公布Bug Hunt Bench盲测结果:Fable 5.2(max)以彻底修复58/105个漏洞居综合榜首,DeepSeek V4.1 Flash则获最高每美元修复能力;但覆盖统计显示,Fable在300多轮运行中修复的漏洞里,仅1个此前未被任何模型修过。 该基准从真实仓库选取105个此前前沿模型漏掉的漏洞并重新植入,由不同模型家族的评审盲评校准,只计算完全修复,“几乎修好”、未植入问题及某些OpenAI模型报告的无关真实问题均不计分。因此,榜单分数反映模型间修复成果的重叠,并非新增漏洞发现能力的完整排序。
AI 根据报道生成 · 54 分钟前更新
事件进展
2 个进展
- 11月10日 14:54 · 1 篇报道公布 Bug Hunt 基准匿名覆盖统计AGI Hunt:Bug Hunt 榜单:Fable 5.2 三百多轮仅修复1个独有漏洞
- 11月10日 14:34 · 2 篇报道Pawel Huryn公布Bug Hunt Bench盲测结果AGI Hunt:Bug Hunt Bench 全榜单:DeepSeek V4.1 Flash 每美元性价比最高
报道时间线
沿着报道,了解事件的不同侧面。
- AGI HuntBug Hunt 榜单:Fable 5.2 三百多轮仅修复1个独有漏洞
Pawel Huryn 公布的 Bug Hunt 基准统计显示,Fable 5.2(max)在 300+ 轮运行中仅修复了 1 个此前没有模型修过的 bug。榜单基于真实仓库及前沿模型漏掉后复植的 105 个 bug,只计完全修复,并由异家族模型盲评校准裁判评分。
- AGI HuntBug Hunt Bench 全榜单:DeepSeek V4.1 Flash 每美元性价比最高
Pawel Huryn 发布 Bug Hunt Bench 编码模型完整排行榜,DeepSeek V4.1 Flash 以每美元修复能力居首。max 档获得 42.7 分、耗费 $1.84,high 档获得 39.2 分、耗费 $1.27;Fable 5.2 max 以 58 分位列得分榜首,耗费 $139.65。
- AGI HuntBug Hunt Bench 实测编码模型修 bug 能力
Pawel Huryn 使用两个真实仓库和 105 个真实漏洞开展 Bug Hunt Bench 盲测,Fable 5.2 (max) 修复 58/105 个漏洞居首。同期公布的完整排行榜与方法论 FAQ 显示,DeepSeek V4.1 Flash 的每美元修复性价比大幅领先其他模型,为评估编码模型的真实修 bug 能力提供参考。
- AGI HuntBug Hunt Bench 实测:Fable 5.2 修复 58/105 个真实 bug 居首
Pawel Huryn 使用两个真实仓库和 105 个真实漏洞对前沿编码模型进行盲测,Fable 5.2(max)修复 58 个漏洞,排名第一。Sonnet 5.5(max)修复 51.3 个,GPT-6 Astra(max)修复 45 个,GPT-6.1 Sol(max)修复 44.3 个;榜单仅统计彻底修复的漏洞,并采用不同家族模型进行盲校准评审。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。