跳到正文
热点事件持续更新

Irving称难解证明或阻碍AI构建

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

DeepMind对齐研究员Geoffrey Irving指出,AI研究中大量出现“验证通过但难以理解”的“Slop证明”,会妨碍系统在现有成果上继续构建;递归自我改进若让尚未达到超级智能的机器承担对齐工作,也可能遭遇同一瓶颈。 他认为,自动化研究的AI智能体尤其需要理解验证结果,否则难以可靠地把已有成果用于后续工作。Irving称,除非先将这些证明简化,否则相关积累越多,进一步构建受到的阻碍可能越明显。

AI 根据报道生成 · 44 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月20日
  1. AGI Hunt
    DeepMind Geoffrey Irving:「Slop 证明」或阻碍 AI 继续构建

    DeepMind 对齐研究员 Geoffrey Irving 指出,堆积验证通过却难以理解的「Slop 证明」,会阻碍 AI 在其基础上继续构建。他认为,递归自我改进(RSI)若让尚未超级智能的机器承担对齐工作,也可能出现同样的可理解性瓶颈;AI agent 自动化研究尤其依赖理解验证结果。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。