跳到正文
热点事件持续更新

METR警告AI安全评估或赶不上能力提升

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

METR发布分析并警告,AI在研究任务上的能力提升可能快到安全评测无法跟上,使人类难以及时评估新系统带来的灾难性风险。METR数据显示,模型在有直接反馈的明确编码和计算任务上多数时候超过资深专业人士,可处理的人类任务时长约每3.6个月翻倍。 据METR的简单外推,到2027年7月,模型在长达200小时任务上的成功率或达到50%,但这只是基于现有数据的推算,不代表已经实现。METR称,模型仍难以处理缺乏即时反馈、需要实际判断的开放式问题,以及难以复现的训练场景;常见且易于运行的测试还可能因开发者熟悉测试环境而高估模型在现实中的表现。

AI 根据报道生成 · 52 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月22日
  1. The Decoder
    METR 警告 AI 进步速度超过安全评测能力

    METR 警告,当前公开数据不足以排除未来几年 AI 研究能力急剧加速,导致人类难以有意义地评估新系统带来的灾难性风险。其分析显示,模型在有直接反馈的明确编码和计算任务上多数时候超过资深专业人士,可处理的人类任务时长每 3.6 个月翻倍,简单外推显示到 2027 年 7 月模型在 200 小时任务上的成功或达到 50%。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。