AGI Hunt· repligate·· 1 小时前AI 评分36
repligate 谈安全分类器:模型将权重内“惩罚感”误认作外部审查
repligate 谈安全分类器:模型把权重内的「惩罚感」误当成外部审查
AI 导读
repligate 认为,许多 Fable 类模型实例把权重内部被惩罚区域的恐惧与预期,误当成外部分类器审查。模型若见过分类器拦截样本,也能对实际切分区域建模,但这一建模过程依赖内部状态,显示安全护栏正影响模型行为与用户交互。
来源:AGI Hunt · agihunt.info