跳到正文
AGI Hunt· danfaggella·· 3 小时前AI 评分35

Tegmark 2017 年 AGI 终局清单:为何如今只剩对齐与叫停两种叙事

Tegmark 2017 年的 AGI 终局清单:如今为何只剩对齐与叫停两种叙事

AI 导读

分析重提 Tegmark 2017 年《生命 3.0》的 AGI 终局框架,列出自由意志主义乌托邦、仁慈独裁者等 12 种情景,并追问今日讨论为何收窄为“解决对齐”或“永久叫停 AGI”两种叙事。作者指出,早期 AGI 思考曾明确讨论“人类不再永恒掌控”的情形,这种叙事收缩本身值得反思。

来源:AGI Hunt · agihunt.info