跳到正文
AGI Hunt· vivvvekredddit1122·· 1 小时前AI 评分64

Agent 团队复盘安全加固误杀:攻击拦截数与正常请求完成数须一起看

加固 agent 防攻击后误杀真实客户请求:两家指标必须一起看

AI 导读

一支 agent 团队在收紧 guardrails 后发现,攻击成功率虽然下降,正常请求却开始被拒并引发支持工单。其做法是为每条安全测试用例配一条本应成功的正常用例,发布时同时追踪攻击拦截数和正常请求完成数,两者一升一降即不算成功。审查拒答时也要像审查放行一样读取完整 trace,并同步度量误杀率。

来源:AGI Hunt · agihunt.info