AGI Hunt· DatologyAI·· 2 小时前AI 评分41
DatologyAI 与 UIUC 提出 SimpleLoRIF,以梯度对齐过滤危险的微调数据
SimpleLoRIF 用梯度对齐过滤隐性损害安全的微调数据,GCG 攻击成功率降 22%
AI 导读
DatologyAI 与 UIUC 的论文提出 SimpleLoRIF,通过简化低秩梯度归因,筛除看似无害却会悄然侵蚀模型安全的微调样本。方法仅对最后 4 个 Transformer 块反向传播,可扩展至百万级样本数据集。
来源:AGI Hunt · agihunt.info