AGI Hunt· shangbinfeng·· 3 小时前AI 评分45
HoliSafe:6K 参数轻量检测器读 MoE 路由信号,错误率最高降 92%
6K 参数轻量检测器读 MoE 路由信号,错误率最高降 92%
AI 导读
HoliSafe 通过读取最终 prompt token 在全部 MoE 层的 router logits,并用逻辑回归计算不安全概率,超过阈值即拒绝请求。该检测器仅约 6K 参数,不增加额外前向开销,错误率最高降低 92%,OOD 攻击归零;研究发现“读出”安全信号比“操控”专家更有效。
来源:AGI Hunt · agihunt.info