梯度数据归因扩展至规模化，可筛查隐蔽有害训练数据

Pratyusha Maini 等人发布新研究，把基于梯度的数据归因方法扩展到规模化，用来识别表面无害、但经微调后可能引发有害行为的训练数据。该方法在 LoRIF 基础上进一步简化，梯度计算速度约为标准嵌入的 3 倍，并可由 0.6B 规模的小模型充当监测器，对可能进入大模型训练的数据进行筛查。 研究者的目标是让数据安全检查在训练前完成，而不是等到模型微调后才暴露问题：先由监测器筛出可疑样本，再决定是否纳入训练。目前该方法的验证限于研究设定中的有害行为检测任务。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。