跳到正文
AGI Hunt· Plastic_Secret1303·· 4 小时前AI 评分55

退款 Agent 静态评测全绿,却因用户改换措辞而放行超期退款

退款 Agent 全绿通过评测,却被用户换个说法绕过政策

AI 导读

一个团队分享退款 Agent 的真实翻车:规则是窗口期外不退款,静态评测集中的「我要退三个月前的订单」等用例全部正确拒绝,红队测试时用户仅改换措辞让请求不再像超期退款,政策检查便未触发,退款被放行。

来源:AGI Hunt · agihunt.info