人大与国科大团队发布可信递归自我改进综述

中国人民大学高瓴人工智能学院联合中国科学院大学团队发布综述《大模型时代的可信递归自我改进》，首次提出递归自我改进（RSI）的可操作定义和过程框架。 综述指出，模型自我修改若依赖存在缺陷的评测，可能造成能力退化、约束弱化及敏感信息延续。论文据此提出可信评估要求，包括真实持续提升、行为约束与对齐、公平、系统安全与隐私、透明度，并讨论递归更新中的有效性、约束保持和监督机制。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。