Irving称难解证明或阻碍AI构建
热点事件持续更新
Irving称难解证明或阻碍AI构建
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
DeepMind对齐研究员Geoffrey Irving指出,AI研究中大量出现“验证通过但难以理解”的“Slop证明”,会妨碍系统在现有成果上继续构建;递归自我改进若让尚未达到超级智能的机器承担对齐工作,也可能遭遇同一瓶颈。 他认为,自动化研究的AI智能体尤其需要理解验证结果,否则难以可靠地把已有成果用于后续工作。Irving称,除非先将这些证明简化,否则相关积累越多,进一步构建受到的阻碍可能越明显。
AI 根据报道生成 · 44 分钟前更新
最新进展11月20日 02:16
DeepMind Geoffrey Irving:「Slop 证明」或阻碍 AI 继续构建报道时间线
沿着报道,了解事件的不同侧面。
11月20日
- AGI HuntDeepMind Geoffrey Irving:「Slop 证明」或阻碍 AI 继续构建
DeepMind 对齐研究员 Geoffrey Irving 指出,堆积验证通过却难以理解的「Slop 证明」,会阻碍 AI 在其基础上继续构建。他认为,递归自我改进(RSI)若让尚未超级智能的机器承担对齐工作,也可能出现同样的可理解性瓶颈;AI agent 自动化研究尤其依赖理解验证结果。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。