跳到正文
AGI Hunt· thione·· 58 分钟前AI 评分43

Anthropic 研究:混入对比干净数据反而增强投毒微调的隐藏后门

Anthropic 研究:混入对比干净数据反而增强投毒微调的隐藏后门

AI 导读

Anthropic 在开源权重模型上的受控实验发现,向已被投毒的微调数据加入对比性干净数据,可能增强投毒的隐藏效果,而非稀释或冲掉后门。研究对用干净数据冲洗污染数据的常见做法提出挑战,警示微调阶段的投毒攻击可能更加顽固,并影响开源模型供应链安全与数据清洗实践。

来源:AGI Hunt · agihunt.info