Reddit 工程师复盘 AI Agent 上线前的对抗测试方法

Reddit 工程师分享了将 AI Agent 交付给真实客户后的测试经验，主张从被动修补转向发布前主动攻击。测试包括改写请求、多轮诱导、投毒文档和冒用账号，并通过调用轨迹定位工具选择问题，将每个问题固化为回归测试，同时验证合法流程。