Critch主张区分AI递归改进与失控风险

AI安全研究者Andrew Critch发文反对把可能导致人类灭绝的AI递归自我修改笼统称为“自我改进”。他区分递归自我修改（RSM）、递归自我改进（RSI）和失控递归自我修改（Runaway RSM），认为RSI是否构成“改进”取决于建造者的价值观，且尝试改进可能失败并退化为失控RSM。 Critch还为反AI公司立场和支持RSI的论点提供了具体反驳措辞，核心是避免用“改进”淡化递归修改可能带来的灭绝风险。

AI 根据报道生成 · 28 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。