跳到正文
AGI Hunt· IAugenstein·· 2 小时前AI 评分38

哥本哈根大学与剑桥大学研究 LLM 价值训练对其他价值观的意外影响

剑桥哥本哈根论文:LLM 价值观训练会波及其他价值观

AI 导读

哥本哈根大学与剑桥大学研究者发布论文,系统考察 LLM 价值训练对非目标价值观造成的意外副作用。研究指出,将 LLM 与人类价值观对齐已成为常见后训练目标,但价值观之间相互关联,训练目标价值观时也可能带动其他价值观漂移。

来源:AGI Hunt · agihunt.info