AGI Hunt· alexbilz·· 3 小时前AI 评分47
ICLR 2023 论文:选择性微调部分层的“外科手术式微调”更抗分布偏移
ICLR 论文:只微调部分层的「外科手术式微调」更抗分布偏移
AI 导读
ICLR 2023 论文提出“外科手术式微调”:面对分布偏移,选择性微调部分层的效果不输甚至优于微调最后几层或全部层。研究在 7 个真实数据任务、3 类偏移上验证,图像腐蚀类偏移只微调前几层效果最好,并证明两层网络中只调第一层可胜过全量微调;官方代码库提供 CIFAR-C / ImageNet-C 示例实现。
来源:AGI Hunt · agihunt.info