AGI Hunt· shangbinfeng·· 3 小时前AI 评分38
arXiv 论文《Reading, Not Manipulating》:MoE 路由 logits 可检测有害图文组合
无害图文组合可产生有害请求,MoE 路由 logits 成检测新解
AI 导读
arXiv 论文《Reading, Not Manipulating》提出以 MoE 视觉语言模型的 router logits 检测有害图文请求。研究者通过在 prefill 阶段对路由状态做线性探针,可在生成前识别不安全组合,无需修改权重或干预路由。
来源:AGI Hunt · agihunt.info