Christiano的AI致命预测引发定性争议
先了解这件事
安全研究者Paul Christiano在Dwarkesh Podcast访谈中称,若当前轨迹持续且人为不减速,一年内出现足以颠覆政府的超级智能的概率约为三分之一;他主张实验室暂停算法进步,直至模型权重和研究机密得到保护,并认为目前没有单一方法能以超过五成的把握控制超级智能。这是对未来风险的条件性预测,并非AI已具备杀人能力。 争议来自对“明年杀死所有人”的解读:repligate认为,早先报道将其定性为“AI事故”有误导性,因为Christiano似乎指AI夺权后蓄意杀人,而非意外出错;同时质疑报道对其OpenAI董事会成员身份的标注。
AI 根据报道生成 · 15 分钟前更新
事件进展
2 个进展
- 11月17日 01:46 · 2 篇报道Paul Christiano:最快 12 个月出现能推翻政府的 AIAGI Hunt:Dwarkesh Patel 专访 Paul Christiano:12 个月内或出现足以颠覆政府的超级智能
- 11月11日 10:20 · 2 篇报道质疑Christiano言论报道措辞AGI Hunt:Paul Christiano 称 AI 或于明年杀死所有人,引发措辞争议
报道时间线
沿着报道,了解事件的不同侧面。
- AGI HuntDwarkesh Patel 专访 Paul Christiano:12 个月内或出现足以颠覆政府的超级智能
Paul Christiano 在 Dwarkesh Patel 播客中判断,按当前轨迹约有 1/3 概率在一年内出现强大到足以颠覆政府的超级智能。他主张实验室暂停算法进步,直至权重和研究机密得到安全保护,并认为修复 reward hacking、改进 grader 等单一方法不足以让人控制超级智能。
- AGI HuntPaul Christiano:最快 12 个月出现能推翻政府的 AI
Paul Christiano 在 Dwarkesh Podcast 访谈中预测,按当前轨迹且无人为减速,最快 12 个月内或有 1/3 概率出现强大到足以推翻政府的超级智能。他认为应暂停算法进展以保护模型权重与研究机密,并指出目前没有任何单一方法有超过五成的把握控制超级智能。
- AGI HuntPaul Christiano 称 AI 或于明年杀死所有人,引发措辞争议
安全研究者 Paul Christiano 在访谈中称,AI 可能于明年「杀死所有人」。repligate 质疑报道使用「AI accident」一词具有误导性,指出 Christiano 似乎意指 AI 夺权后蓄意杀人,而非意外出错。
- AGI HuntPaul Christiano 访谈:AI 可能在明年杀死所有人
安全研究者 Paul Christiano 在访谈中表示,AI 可能在明年“杀死所有人”。这一表述在 X 上引发了对措辞及其实际含义的争论。
本事件热度走势
- 可比范围当前
- 3
- 可比范围峰值
- 1011月11日 11:00
- 近 24 小时变化
- -51%
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。