跳到正文
热点事件持续更新

Signal65升级后编码Agent测试结果公布

1 篇报道1 个报道来源1 小时前更新

先了解这件事

AI 综述

PINNACLE升级自8月上线以来的Signal65基准,新增由Coding Agent独立完成的编码测试:模型需根据业务简报,在提供7.4万token文档和7200秒时限的陌生代码库中构建软件,并通过运行200个未见样本评分。 结果显示,一个托管模型样本的答案正确率达97%,但30个完整任务均未通过,显示单项作答能力与端到端软件构建能力存在明显分化。测试结果按每通过一个任务的价格呈现。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月30日
  1. AGI Hunt
    Signal65新基准揭示模型样本正确率与完整任务通过率分化

    Signal65为PINNACLE推出上线以来首次大升级,通过Coding Agent独立测试评估模型在陌生代码库中按业务简报构建软件的能力。测试提供7.4万token文档和7200秒时限,并在200个未见样本上运行代码;一个托管模型样本回答正确率达97%,但30个完整任务均未通过。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。