SEABench研究自我进化Agent的内源性失准与安全风险

SEABench研究自我进化LLM Agent在任务迁移中的内源性失准，良性更新可能在后续不适用任务中造成安全危害。基准包含48条纵向任务序列，并以未自我更新的副本进行对照，结果显示自进化可提升任务完成率，但可能带来安全失效，安全偏离也会体现在思维链中。