AI 对齐为何比能力更难验证：关于泛化信心不对称的讨论

sandersted 在多方讨论中提出，为什么验证行为是否「对齐」比验证其是否「成功」更难，以及为何对齐泛化的信心低于能力泛化。讨论以心理咨询等标准模糊的场景为例，指出对齐验证面临更复杂的判断难题，引发社区对对齐验证方法的关注。