AGI Hunt· nandofioretto·· 3 小时前AI 评分41
CoDA 框架在扩散 LLM 解码内执行安全策略,自适应注入成功率降至 0%
CoDA 框架在扩散 LLM 解码内执行安全策略,自适应注入成功率降至 0%
AI 导读
Policy-Constrained Diffusion Agents(CoDA)在扩散语言模型逐轮全序列去噪时,将 token 分布投影至符合任务安全策略的集合,无需重新训练即可全程强制执行约束。该框架在 4 套 AgentDojo 套件和 2 个扩散模型家族上评测,使用 oracle 策略时,自适应 prompt 注入成功率达到 0%。
来源:AGI Hunt · agihunt.info