NeurIPS 论文：利用 [MASK] 填充检测掩码扩散语言模型的越狱攻击

一项即将发表在 NeurIPS 的研究发现，[MASK] 占位符可作为检测掩码扩散语言模型越狱攻击的信号。作者分别对正常请求与越狱请求的掩码位置概率分布建模为 pP 与 pR，构造得分 s(x) 和阈值 τ，实现比基于 prompt 的检测更好的效果。