AGI Hunt· chhaviyadav_·· 38 分钟前AI 评分47
TamperResistanceOSModels 团队训练抗篡改小模型,一条命令去安全对齐,硬化版拒绝率升至 100%
团队训练抗篡改小模型:一条命令去安全对齐,硬化版拒绝率升至100%
AI 导读
团队基于 Cohere Tiny Aya Global 训练抗 abliteration 的小型开源模型,并公开 TamperResistanceOSModels 仓库。n=100 测试中,硬化版 v2 在廉价攻击下保持 100% 拒绝,最强攻击下有害回答率由 91% 降至 40%,但 IFEval 下降 10 个百分点。
来源:AGI Hunt · agihunt.info