AGI Hunt· trevposts·· 1 小时前AI 评分36
trevposts:法律系统的监禁与威慑为何难用于 AI 对齐
AI 对齐难题新类比:法律系统靠监禁威慑,对 AI 两头都失效
AI 导读
trevposts 认为,人类对齐所依赖的法律系统难以约束 AI,剥夺能力与威慑两种机制都会失效。AI 可被复制并扩散至全球数据中心,无法确保没有副本;训练中的负奖励也不等同于人类经历惩罚,因此目前基本不知道如何威慑 AI 不做有害之事。
来源:AGI Hunt · agihunt.info