AI 安全研究者 Andrew Critch：别把灭绝风险称作「自我改进」

AI 安全研究者 Andrew Critch 发文主张，拒绝把可能导致人类灭绝的 AI 递归自我修改称作「改进」。他区分 RSM（递归自我修改）、RSI（递归自我改进）与 Runaway RSM（失控 RSM），指出「改进」取决于建造者价值观，RSI 尝试可能失败并退化为失控 RSM，并为反 AI 公司和支持 RSI 的立场提供具体反驳措辞。