跳到正文
AGI Hunt· ronbodkin·· 2 小时前AI 评分36

DeepMind Geoffrey Irving:「Slop 证明」或阻碍 AI 继续构建

Geoffrey Irving:「Slop 证明」连 AI 自己也难以在其上继续构建

AI 导读

DeepMind 对齐研究员 Geoffrey Irving 指出,堆积验证通过却难以理解的「Slop 证明」,会阻碍 AI 在其基础上继续构建。他认为,递归自我改进(RSI)若让尚未超级智能的机器承担对齐工作,也可能出现同样的可理解性瓶颈;AI agent 自动化研究尤其依赖理解验证结果。

来源:AGI Hunt · agihunt.info