Signal65升级后编码Agent测试结果公布
热点事件持续更新
Signal65升级后编码Agent测试结果公布
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
PINNACLE升级自8月上线以来的Signal65基准,新增由Coding Agent独立完成的编码测试:模型需根据业务简报,在提供7.4万token文档和7200秒时限的陌生代码库中构建软件,并通过运行200个未见样本评分。 结果显示,一个托管模型样本的答案正确率达97%,但30个完整任务均未通过,显示单项作答能力与端到端软件构建能力存在明显分化。测试结果按每通过一个任务的价格呈现。
AI 根据报道生成 · 1 小时前更新
最新进展10月30日 03:22
Signal65新基准揭示模型样本正确率与完整任务通过率分化报道时间线
沿着报道,了解事件的不同侧面。
10月30日
- AGI HuntSignal65新基准揭示模型样本正确率与完整任务通过率分化
Signal65为PINNACLE推出上线以来首次大升级,通过Coding Agent独立测试评估模型在陌生代码库中按业务简报构建软件的能力。测试提供7.4万token文档和7200秒时限,并在200个未见样本上运行代码;一个托管模型样本回答正确率达97%,但30个完整任务均未通过。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。