Joshua Gans 与 Richard Holden 发布论文质疑仅靠显示偏好对齐 AI

Joshua Gans 与 Richard Holden 发布新论文《Are Revealed Preferences All You Need for AI Alignment?》，论证仅凭人的显示偏好不足以训练出充分对齐的 AI。论文指出，AI 会自主选择收集信息的实验，这些实验产生的信念会影响后续决策，并可能偏离人真正会做出的选择。