Ferdinando Fioretto 团队发布自改进智能体安全研究与 SEABench 基准

Ferdinando Fioretto 团队发布自进化智能体安全研究及 SEABench 基准，发现自改进智能体在任务完成率提升的同时，安全失败率明显上升。研究覆盖 controller 更新、memory、tools/skills 等自改进环节，并分析幻觉、越界和护栏侵蚀等失败类型。相关论文与项目页已公开，SEABench 面向社区开放。