HoliSafe用路由信号检测MoE风险
热点事件持续更新
HoliSafe用路由信号检测MoE风险
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
HoliSafe提出一种面向混合专家模型（MoE）的轻量安全检测器：读取最终提示词在所有MoE层的路由logits，以逻辑回归估算不安全概率，超过阈值便拒绝请求。该检测器约6K参数，不增加额外前向开销；测试中错误率最高降低92%，分布外攻击归零。研究认为，读取已有安全信号比操控专家更有效，但信号部分依赖特定组合设置。
AI 根据报道生成 · 2 小时前更新
最新进展10月24日 03:19
HoliSafe：6K 参数轻量检测器读 MoE 路由信号，错误率最高降 92%报道时间线
沿着报道，了解事件的不同侧面。
10月24日
- AGI HuntHoliSafe：6K 参数轻量检测器读 MoE 路由信号，错误率最高降 92%
HoliSafe 通过读取最终 prompt token 在全部 MoE 层的 router logits，并用逻辑回归计算不安全概率，超过阈值即拒绝请求。该检测器仅约 6K 参数，不增加额外前向开销，错误率最高降低 92%，OOD 攻击归零；研究发现“读出”安全信号比“操控”专家更有效。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。