CoDA在扩散式大模型解码中约束安全策略

CoDA框架在扩散语言模型逐轮全序列去噪时，将token分布投影到符合任务安全策略的集合，无需重新训练即可在生成全程执行约束；论文作者称，在4套AgentDojo测试套件和2个扩散模型家族上使用oracle策略评测时，自适应提示注入成功率为0%。 该方法要求任务策略在智能体接触不可信内容前由可信指令设定，并在去噪过程中反复审查受保护字段；目前结论限于论文评测所用模型与测试套件。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。