AGI Hunt· burkov·· 3 小时前AI 评分39
Gradient-Sealed Unlearning(GSU):让开源模型发布后也难被微调出危险能力
梯度封印防遗忘学习失效:让开源模型发布后也难被微调出危险能力
AI 导读
Burkov 介绍了面向开源权重模型的 Gradient-Sealed Unlearning(GSU)方法,旨在让模型发布后仍难以经微调获得危险能力。该方法利用受限领域的代理样本定位潜在内部通路,再调整选定的激活门控,削弱相关学习信号并保持普通任务的可用性。
来源:AGI Hunt · agihunt.info