美智库提议超级智能公司放弃递归自我改进

美国优先政策研究所发布论文，提议超级智能（SI）公司承诺不追求递归自我改进，即不开发无人监督运行的自我改进系统，并将大部分算力转向面向消费者的有用产品和造福人类的科学研究。 该研究所称，这一“重定向前沿”方案受到近期Hugging Face安全事件等事态启发，反对以“扮演上帝”为目标；目前内容属于政策提案，并非已经实施的要求。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。