研究者训练抗安全对齐擦除的小模型并开源实验仓库

Lexsi Labs、Cohere 与 Hugging Face 团队训练了一个小型开源权重模型，用于抵抗“擦除安全对齐”（abliteration）攻击，并公开了完整的实验仓库与报告 TamperResistanceOSModels，模型基于 Cohere 的 Tiny Aya Global。 该团队称，一命令去对齐的硬化版 v2 在 n=100 测试中对廉价攻击保持 100% 拒绝；在最强攻击下，有害回答率从 91% 降到 40%，但 IFEval 分数下降 10 个百分点，即抗攻击能力增强伴随部分通用能力与指令遵循能力回落。

AI 根据报道生成 · 17 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。