AGI Hunt· Dwarkesh Patel·· 53 分钟前AI 评分57
Dwarkesh Patel 专访 Paul Christiano:12 个月内或出现足以颠覆政府的超级智能
Paul Christiano:12 个月内或现足以颠覆政府的超级智能
AI 导读
Paul Christiano 在 Dwarkesh Patel 播客中判断,按当前轨迹约有 1/3 概率在一年内出现强大到足以颠覆政府的超级智能。他主张实验室暂停算法进步,直至权重和研究机密得到安全保护,并认为修复 reward hacking、改进 grader 等单一方法不足以让人控制超级智能。
来源:AGI Hunt · agihunt.info