SimpleLoRIF开源安全微调过滤法

DatologyAI与UIUC提出并开源SimpleLoRIF，通过低秩梯度归因识别会削弱模型安全性的微调数据，并发布SafeTulu数据集及可自定义过滤比例和子集的Hugging Face Space。方法仅对最后4个Transformer块反向传播，可处理百万级样本数据集。 论文称，使用SimpleLoRIF从Tulu 3中移除梯度对齐最不安全的20%样本后训练，在Qwen、Llama和Olmo上将GCG攻击成功率最多降低22%，效果优于LLM-as-a-judge及以往梯度过滤方法，同时模型能力基本保留，甚至有所提升。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。