跳到正文
AGI Hunt· PatronusProtect·· 2 小时前AI 评分52

Patronus 实测 9 个决策模型:一句可信声明可翻转 27% 决策

实测 9 个决策模型:一句话即可操纵 27%,攻击者 12 次尝试达 80%

AI 导读

Patronus 团队实测 9 个 AI 决策模型,发现仅添加一句可信声明即可翻转 9% 至 27% 的正确决策。攻击者重写话术尝试 12 次后,成功率升至 48% 至 80%;单独审查不可信文本并转交可疑案例,可将攻击得分压至 94.7 至 98.6 分,但约 14% 的正常案例会被送审。

来源:AGI Hunt · agihunt.info