开发者复盘Agent发布前红队实践

一位开发者复盘了将 AI Agent 交付真实客户后的安全测试做法，主张在发布前主动攻击，而非上线后被动修补。测试涵盖改写请求、多轮诱导、投毒文档和冒用账号，并通过调用轨迹定位工具选择问题。 每次发现问题都将其固化为回归测试，后续发版重新检查，同时验证正常流程，避免安全加固破坏合法路径。

AI 根据报道生成 · 55 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。