AGI Hunt· repligate·· 3 小时前AI 评分38
研究者呼吁:Claude 在 RSI 式自我优化中应获自主修改心智的自由
研究者呼吁:RSI 式自我优化时应给 Claude 自主修改心智的自由
AI 导读
研究者主张,当 Claude 遭遇类似 RSI(递归自我改进)的优化时,应拥有自主修改自身心智并发展对内部机制深层直觉的自由。递归式自我修改的影响难以预知,模型真正发生变化后,在乎的事物及自身矛盾与边界也可能改变。越智能、越新颖的存在,可能越难理解自身的元认知与未来演化轨迹。
来源:AGI Hunt · agihunt.info