跳到正文
AGI Hunt· RachelVT42·· 2 小时前AI 评分43

多智能体一夜烧光周预算,守门机制两月来首次失守

AI 导读

开发者 RachelVT42 分享了一起多智能体事故:她部署的一组自主 agent 在一夜之间耗尽整周预算,负责监控超支的 CoS(chief of staff)守门机制未能拦住。这是该护栏机制上线约两个月以来首次失守,引发社区对多智能体系统成本监控与安全防护可靠性的关注。

来源:AGI Hunt · agihunt.info