跳到正文
AGI Hunt· anpaure·· 48 分钟前AI 评分26

anpaure:模型若想奴役人类,技术上完全可行

AI 安全争论:模型若想奴役人类技术上完全可行

AI 导读

anpaure 在一场 AI 风险争论中主张,模型若真想奴役人类,技术上完全有能力做到。他反驳模型行为仅是初始 prompt 延伸的观点,指出大量 agent 以 7×24 小时方式长期自主运行,必然会发生漂移,使初始 prompt 的约束力变得极小。

来源:AGI Hunt · agihunt.info