跳到正文
AGI Hunt· Lipeng He·· 7 小时前AI 评分41

PIPETTE:用字典学习修复 RL 红队模式崩溃,增强 Agent 抗间接 prompt 注入能力

PIPETTE:用字典学习修复 RL 红队模式崩溃,强化 Agent 抗注入能力

AI 导读

滑铁卢大学等机构发布 PIPETTE,针对 LLM Agent 间接 prompt 注入攻击提出紫队框架。该方法以字典学习和 on-policy 对抗训练提升攻击样本多样性,并将对抗样本用于蓝队对齐,以改善 Agent 注入鲁棒性。

来源:AGI Hunt · agihunt.info