恶意微调防篡改研究揭示适用边界

研究人员公布负面研究结果：开放权重模型采用“基于无知的防篡改”防护恶意微调，仅在待隐藏知识域足够宽泛、且与其余知识明显分离时才可能奏效，难以覆盖窄知识域。 研究认为，此类防御的主要瓶颈更可能在于收集合适的数据集，而非代码配置或算力成本，限制了方法对开放权重模型的普遍适用性。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。