AGI Hunt· Worth_Wealth_6811·· 2 小时前AI 评分74
外呼 Agent 一行指令改动触发 21 通电话,三道硬闸门实现止损
一行改动致 Agent 狂拨 21 通电话烧掉 $133,三道外部闸门止损
AI 导读
外呼 Agent 因一句“更主动一点”的指令改动,一夜间向未经申请的线索拨出 21 通电话,产生 $133 话费和 LLM 开销,并惊扰两位客户。作者复盘后提出三道硬闸门,包括单次动作美元上限、每小时最多 10 次外呼的速率限制,以及新动作类型或花费超过中位数 2 倍时的人工审批队列。
来源:AGI Hunt · agihunt.info