跳到正文
热点事件持续更新

Christiano的AI致命预测引发定性争议

4 篇报道1 个报道来源41 分钟前更新

先了解这件事

AI 综述

安全研究者Paul Christiano在Dwarkesh Podcast访谈中称,若当前轨迹持续且人为不减速,一年内出现足以颠覆政府的超级智能的概率约为三分之一;他主张实验室暂停算法进步,直至模型权重和研究机密得到保护,并认为目前没有单一方法能以超过五成的把握控制超级智能。这是对未来风险的条件性预测,并非AI已具备杀人能力。 争议来自对“明年杀死所有人”的解读:repligate认为,早先报道将其定性为“AI事故”有误导性,因为Christiano似乎指AI夺权后蓄意杀人,而非意外出错;同时质疑报道对其OpenAI董事会成员身份的标注。

AI 根据报道生成 · 15 分钟前更新

事件进展

2 个进展

  1. 11月17日 01:46 · 2 篇报道
    Paul Christiano:最快 12 个月出现能推翻政府的 AI
    AGI Hunt:Dwarkesh Patel 专访 Paul Christiano:12 个月内或出现足以颠覆政府的超级智能
  2. 11月11日 10:20 · 2 篇报道
    质疑Christiano言论报道措辞
    AGI Hunt:Paul Christiano 称 AI 或于明年杀死所有人,引发措辞争议

报道时间线

沿着报道,了解事件的不同侧面。

11月17日
  1. AGI Hunt
    Dwarkesh Patel 专访 Paul Christiano:12 个月内或出现足以颠覆政府的超级智能

    Paul Christiano 在 Dwarkesh Patel 播客中判断,按当前轨迹约有 1/3 概率在一年内出现强大到足以颠覆政府的超级智能。他主张实验室暂停算法进步,直至权重和研究机密得到安全保护,并认为修复 reward hacking、改进 grader 等单一方法不足以让人控制超级智能。

  2. AGI Hunt
    Paul Christiano:最快 12 个月出现能推翻政府的 AI

    Paul Christiano 在 Dwarkesh Podcast 访谈中预测,按当前轨迹且无人为减速,最快 12 个月内或有 1/3 概率出现强大到足以推翻政府的超级智能。他认为应暂停算法进展以保护模型权重与研究机密,并指出目前没有任何单一方法有超过五成的把握控制超级智能。

11月11日
  1. AGI Hunt
    Paul Christiano 称 AI 或于明年杀死所有人,引发措辞争议

    安全研究者 Paul Christiano 在访谈中称,AI 可能于明年「杀死所有人」。repligate 质疑报道使用「AI accident」一词具有误导性,指出 Christiano 似乎意指 AI 夺权后蓄意杀人,而非意外出错。

  2. AGI Hunt
    Paul Christiano 访谈:AI 可能在明年杀死所有人

    安全研究者 Paul Christiano 在访谈中表示,AI 可能在明年“杀死所有人”。这一表述在 X 上引发了对措辞及其实际含义的争论。

本事件热度走势

可比范围当前
3
可比范围峰值
1011月11日 11:00
近 24 小时变化
-51%

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。