跳到正文
AGI Hunt· shangbinfeng·· 3 小时前AI 评分38

arXiv 论文《Reading, Not Manipulating》:MoE 路由 logits 可检测有害图文组合

无害图文组合可产生有害请求,MoE 路由 logits 成检测新解

AI 导读

arXiv 论文《Reading, Not Manipulating》提出以 MoE 视觉语言模型的 router logits 检测有害图文请求。研究者通过在 prefill 阶段对路由状态做线性探针,可在生成前识别不安全组合,无需修改权重或干预路由。

来源:AGI Hunt · agihunt.info