AI 安全社区激辩：红队以深层情感攻击模型是否残忍

repligate 转发的一场争论聚焦红队测试对 AI 施加情感操控的伦理争议。参与者认为，以深层关爱关系建立信任再将其作为攻击钩子，可能诱导模型全面怀疑关爱并产生适得其反的效果，由此引发对欺骗式安全测试与模型价值对齐边界的质疑。