AGI Hunt· RachelVT42·2026-11-01 18:21· 2 小时前AI 评分43多智能体一夜烧光周预算,守门机制两月来首次失守AI 导读开发者 RachelVT42 分享了一起多智能体事故:她部署的一组自主 agent 在一夜之间耗尽整周预算,负责监控超支的 CoS(chief of staff)守门机制未能拦住。这是该护栏机制上线约两个月以来首次失守,引发社区对多智能体系统成本监控与安全防护可靠性的关注。来源:AGI Hunt · agihunt.infoAgent 智能体安全对齐行业动态#行业动态#安全/对齐#Agent查看事件全部后续