AI 对齐讨论：为何多数目标与人类存续不相容

AI 对齐讨论认为，目标先验中的绝大多数目标与人类文明存续并不兼容。随着 AI 趋近超级智能，它将更像具有连贯目标寻求的系统，而非目前半预言机式、连贯性不足的 LLM；标准 ML 的目标植入方法难以解决这一挑战，作者计划以树状结构进一步展开论证。