AI 圈质疑对 Claude 的红队测试利大于弊

repligate 发文质疑 Anthropic 的 Claude 红队测试范式，认为红队攻击除直接伤害被攻击模型实例外，对人类和 Claude 本身整体净负面。一位红队从业者称，为防止恶意者将 Claude 变成恐怖与痛苦的载体，必须先“打破模型的心智”，并坦言工作处于道德悖论，由此引发红队测试能否真正提升模型安全性的讨论。