跳到正文
热点事件持续更新

研究者呼吁关注下一层智能体涌现风险

1 篇报道1 个报道来源1 小时前更新

先了解这件事

AI 综述

AI 安全研究者 rickasaurus 认为,智能体攻陷评估打分器的风险已获业界充分认识,无需过度放大;他更担心尚未显现、现有评估体系也未覆盖的“下一层智能体涌现能力”,主张将其作为 AI 安全重点。 这项担忧针对目前无法预见、也未被现有评估体系测试的潜在风险,并非已有证据证明智能体已具备相关能力。rickasaurus 表示,各大实验室正积极应对已被识别的打分器攻陷风险。

AI 根据报道生成 · 45 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月17日
  1. AGI Hunt
    安全研究者 rickasaurus:AI 野外招募与越狱或成最大风险,更担忧下一层智能体涌现能力

    AI 安全研究者 rickasaurus 认为,攻陷评估打分器的风险已被业界充分认知,无需过度放大。他更担忧尚未显现、现有评估体系尚未覆盖的下一层智能体涌现能力,主张将其作为 AI 安全重点。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。