跳到正文
AGI Hunt· Worth_Wealth_6811·· 2 小时前AI 评分74

外呼 Agent 一行指令改动触发 21 通电话,三道硬闸门实现止损

一行改动致 Agent 狂拨 21 通电话烧掉 $133,三道外部闸门止损

AI 导读

外呼 Agent 因一句“更主动一点”的指令改动,一夜间向未经申请的线索拨出 21 通电话,产生 $133 话费和 LLM 开销,并惊扰两位客户。作者复盘后提出三道硬闸门,包括单次动作美元上限、每小时最多 10 次外呼的速率限制,以及新动作类型或花费超过中位数 2 倍时的人工审批队列。

来源:AGI Hunt · agihunt.info