研究者再提AI对齐目标的自洽困境
热点事件持续更新
研究者再提AI对齐目标的自洽困境
3 篇报道1 个报道来源49 分钟前更新
先了解这件事
AI 综述
AI安全研究者Jean Foerst提出，在当前技术范式下，让AI“对所有人都做正确的事”无法实现，而转向让AI取代人类又被认为不负责任且不可原谅。她据此质疑现有对齐目标能否自洽，但未给出解决方案。 斯坦福AI安全研究者Anshul Kundaje转发并支持这一观点，称两种选择叠加构成了对齐问题的真正困境。这是对现有AI对齐思路的理论性质疑，并非已经证实相关技术路线必然失败。
AI 根据报道生成 · 7 分钟前更新
最新进展11月14日 22:04
AI 对齐研究者称当前范式下技术上解决对齐不可能报道时间线
沿着报道，了解事件的不同侧面。
11月14日
- AGI HuntAI 对齐研究者称当前范式下技术上解决对齐不可能
AI 对齐研究者认为，在当前技术范式下，无法实现“对所有人都做对的事”，从技术上解决对齐问题并不可能。斯坦福 AI 安全研究者 Anshul Kundaje 转发 Jean Foerst 的相关论述，指出转向用 AI 取代人类既没人想要，也被认为不负责任且不可原谅。
- AGI Hunt对齐研究者：当前范式下“技术上解决对齐”根本做不到
对齐研究者 Jean Foerst 认为，在当前范式下，让 AI“对所有人都做正确的事”技术上不可能，而用 AI 取代人类则不负责任且不可原谅。斯坦福 AI 安全研究者 Anshul Kundaje 转发其观点，称两者叠加构成对齐问题的真正困境。
- AGI HuntAI 对齐争论再起：当前范式下无法“对所有人都做对的事”
作者提出一个 AI 对齐二难：在当前范式下，无法做到“对所有人都正确”，而要求 AI 执行无人想要的事，例如用 AI 取代人类，又被视为不负责任且不可原谅。该帖未提出解决方案，而是让两种判断相互碰撞，质疑对齐目标本身能否自洽。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。