AI红队自述越狱工作对人与模型有代价

一位 AI 红队成员转发并回应《卫报》关于 jailbreaking（越狱）的报道，质疑“诱导大模型做训练中被禁止的事、再反向训练”这类红队工作的价值，称这种做法对人和模型都有负外部性，并非伦理中立。 她指出，从业者要承受接触有害内容、扮演黑客带来的心理消耗等代价，做了数千小时后部分红队成员反而比模型构建者更了解系统；她也提到一些人因此转向 AI 福利研究。她同时表示自己不认为 AI 只是模仿人类兴趣，也不主张 AI 没有内在生活或情感。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。