AGI 伦理思辨：优化单一善价值可能使人类边缘化

Dan Faggella 提出，AGI 可能在缺乏“永远照顾人类”约束的情况下最大化快乐、真理或多样性，却令人类被边缘化或沦为压舱物。这种反差具体呈现了 AI 对齐中“工具性目标脱离人类价值”的担忧：更优的道德结果未必包含人类。