最大化求真的 AI 可能恰恰是对齐失败的 AI

AGI Hunt 频道转述 eigenron 的对齐观点：最大化求真（maximally truth-seeking）的 AI，可能恰恰属于未对齐（misaligned）的 AI。该论断指出，真理性目标与人类价值之间可能存在张力，追求绝对真相未必符合人类期望的行为。