跳到正文
AGI Hunt· Dwarkesh Patel·· 53 分钟前AI 评分57

Dwarkesh Patel 专访 Paul Christiano:12 个月内或出现足以颠覆政府的超级智能

Paul Christiano:12 个月内或现足以颠覆政府的超级智能

AI 导读

Paul Christiano 在 Dwarkesh Patel 播客中判断,按当前轨迹约有 1/3 概率在一年内出现强大到足以颠覆政府的超级智能。他主张实验室暂停算法进步,直至权重和研究机密得到安全保护,并认为修复 reward hacking、改进 grader 等单一方法不足以让人控制超级智能。

来源:AGI Hunt · agihunt.info