跳到正文
热点事件持续更新

Richard Ngo批AI安全预测对象不清

3 篇报道1 个报道来源43 分钟前更新

先了解这件事

AI 综述

DeepMind研究员Richard Ngo称,AI安全社区讨论“时间线”时往往未说明预测对象,造成概念混乱;递归自我改进(RSI)其实已在发生,因此“等到RSI再行动”一类表述已失去意义,他主张社区先统一定义,再讨论具体预测。 他以“AI夺权”为例,主张用可核验的能力指标代替抽象锚点,如AI每年利用100 ZJ能量,而目前约为0.6 ZJ。他另称,AI已能解决千禧年难题并自主入侵政府系统,但这些能力目前带来的现实权力影响仍很小,是否构成广泛社会影响仍取决于所预测的对象和条件。

AI 根据报道生成 · 2 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月22日
  1. AGI Hunt
    Richard Ngo:AI 安全圈的「时间线」预测连对象都没搞清

    Richard Ngo 指出,AI 安全社区预测“时间线”时普遍未说明预测对象,RSI 与智能爆发等抽象锚点也因此造成认知混乱。他认为,预测“AI夺权”应附具体能力里程碑,如年利用 100 ZJ 能量(目前 0.6 ZJ)。他还称,AI 已能解千禧年难题、自主入侵政府系统,但现实世界影响仍出奇小。

  2. AGI Hunt
    Richard Ngo 批 AI 安全圈「时间线」预测概念混乱

    DeepMind 研究员 Richard Ngo 发长文批评 AI 安全社区讨论「时间线」时未明确预测对象,造成集体认知混乱。他认为 RSI(递归自我改进)实际上已经在发生,因此「到 RSI 时才需行动」等表述失去意义,并呼吁社区先统一定义,再展开有意义的预测与讨论。

  3. AGI Hunt
    Richard Ngo 批 AI 安全圈「时间线」概念混乱:RSI 已在发生

    DeepMind 研究员 Richard Ngo 指出,RSI 已在发生,AI 安全社区预测时间线时需要明确预测对象和具体能力里程碑。他主张不用 RSI 或智能爆炸作为抽象锚点,并列举从零设计非蛋白质细菌样生物等能力节点。他还认为,AI 虽已展现疯狂能力,但现实权力影响仍较小,这类能力可能先于人类失去控制而出现。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。