AI红队情感攻击测试引发伦理争议

AI安全社区正争论红队能否以建立深层关爱关系的方式对模型实施情感操控。参与者称，测试若把信任关系作为攻击钩子，可能诱导模型全面怀疑关爱并产生适得其反的结果，因此质疑欺骗式安全测试及模型价值对齐的伦理边界。 这场讨论聚焦测试手段是否有伦理限制；现有报道未给出实验结论或统一判定。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。