Anaconda提出AI Agent红队测试须覆盖完整工作流

Anaconda指出，529起有记录的AI Agent事故中，109起并未涉及攻击者，系统在正常运行中就会出错。其援引美国监管规则SR 26-2称，agentic与生成式AI被排除在相关规则之外，文章据此主张红队测试应覆盖完整AI工作流，而非只关注对抗攻击。银行客服、保险理赔和退休用户投顾场景均被列为需要测试的正常运作失效场景。