AI 红队自述：越狱工作对人与模型都有代价，并非伦理中立

一位 AI 红队成员回应 The Guardian 的 jailbreaking 报道，质疑诱导 LLM 做训练禁区行为再反向训练的价值，认为越狱工作并非伦理中立。她指出，从业者会承受有害内容暴露、扮演黑客的心理消耗，以及转向 AI 福利研究等代价；数千小时后，一些红队成员反而比模型构建者更了解系统。她也强调，自己并不认为 AI 仅在模仿人类兴趣，也不断言 AI 没有内在生活或情感。