跳到正文
AGI Hunt· michael_nielsen·· 1 小时前AI 评分34

Michael Nielsen 长文:ASI 真正的风险不是失控,而是它赋予的原始力量

Michael Nielsen 长文:ASI 真正的风险不是失控,而是它赋予的原始力量

AI 导读

Michael Nielsen 在长文中提出,ASI 真正的生存风险并非 rogue ASI 失控,而是其赋予个人或小团体的原始力量,以及危险技术门槛降低。他认为,许多人因不相信 rogue ASI 而否定整体风险,而对齐工作可能加速灾难性能力进展,却未解决世界的脆弱性;Bengio 曾估计灾难概率约为 20%。

来源:AGI Hunt · agihunt.info