人大团队发布递归自我改进综述：定义、风险与可信评估框架

中国人民大学高瓴人工智能学院联合中科院大学团队发布综述《大模型时代的可信递归自我改进》，首次给出递归自我改进（RSI）的可操作定义与过程框架。综述指出，自我修改可能依赖有缺陷的评测，并引发能力退化、约束弱化及敏感信息延续等风险。论文提出真实持续提升、行为约束与对齐、公平、系统安全与隐私、透明度等可信评估要求，并讨论递归更新中的有效性、约束保持和监督机制。