研究质疑删有害数据让模型更不安全

一项即将在 NeurIPS 展示的研究提出，用统一拒答的方式过滤“不安全数据”并训练模型拒答，可能反而降低安全性。作者认为，被过滤掉的有害内容往往是让模型学会安全回应的关键训练材料，直接删除会削弱模型判断与引导能力。 研究还指出单一拒答的实际风险：用户在健康、债务、法律或危机等场景下被拒答后，可能转向风险更高的信息来源。作者据此主张，模型安全训练不应止于删除数据和统一拒答，而应转向提供有用且安全的引导。论文尚未正式展示，其结论属于研究作者的主张。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。