研究员称当前模型大概率已对齐，RSI循环风险突出

AI安全讨论串中的研究员认为，当前模型“非常可能”已经实现对齐，主要风险转向快速递归自我改进（RSI）循环，以及整体进展速度过快。 其结论并非代表现有模型已能持续安全地自我改进，而是指出未来模型在快速迭代中能否继续保持对齐仍不确定，因此需要关注进展速度与对齐安全之间的张力。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。