梯度归因扩展至规模化：0.6B 模型可监测大模型训练数据中的有害样本

Pratyusha Maini 等人发布新工作，将基于梯度的数据归因扩展至规模化，用于识别表面无害、但经微调后可能引发有害行为的训练数据。该方法在 LoRIF 基础上进一步简化，梯度计算仅比标准嵌入慢 3 倍，并可由 0.6B 模型充当监测器，筛查可能进入大模型训练的隐蔽有害数据。