跳到正文
AGI Hunt· DatologyAI·· 2 小时前AI 评分41

DatologyAI 与 UIUC 提出 SimpleLoRIF,以梯度对齐过滤危险的微调数据

SimpleLoRIF 用梯度对齐过滤隐性损害安全的微调数据,GCG 攻击成功率降 22%

AI 导读

DatologyAI 与 UIUC 的论文提出 SimpleLoRIF,通过简化低秩梯度归因,筛除看似无害却会悄然侵蚀模型安全的微调样本。方法仅对最后 4 个 Transformer 块反向传播,可扩展至百万级样本数据集。

来源:AGI Hunt · agihunt.info