跳到正文
AGI Hunt· mikeflache·· 1 小时前AI 评分41

从阿罗不可能定理看 AI 对齐:1950 年论文的数学启示

AI 导读

mikeflache 转引的解读借 Kenneth Arrow 1950 年论文主张,AI 对齐在数学上不可能。阿罗证明表明,满足群体偏好排序三条公理中的两条,就必须违背第三条;由此,多元人类价值观难以无矛盾地聚合为单一模型目标函数。

来源:AGI Hunt · agihunt.info