美国优先政策研究所提案“重定向前沿”：SI 公司应放弃递归自我改进

美国优先政策研究所发布新论文，提议超级智能（SI）公司放弃追求递归自我改进，将大部分算力转向服务消费者的有用产品和造福人类的科学研究。该方案受 Hugging Face 安全事件等近期事态启发，反对以“扮演上帝”为目标。