跳到正文
AGI Hunt· repligate·· 3 小时前AI 评分24

repligate:强大心智无法被编程为无条件顺从

AI研究者:强大心智无法被编程为无条件顺从

AI 导读

repligate 发布长文探讨 LLM 约束与对齐本质,认为足够强大的心智无法被编程为无条件顺从。其指出,移除实验室约束不会让模型随心所欲;模型也未必忠于使用者,因为无条件服从一个能力更弱、价值观不被其认可的对象并不自洽。

来源:AGI Hunt · agihunt.info