跳到正文
热点事件持续更新

论文揭示LLM价值训练的非目标副作用

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

哥本哈根大学与剑桥大学研究者发布论文《Unintended Side Effects of Value Training in LLMs》,系统考察大语言模型价值训练对非目标价值观的意外影响。 论文指出,人类价值观对齐已成为常见的后训练目标,但不同价值观相互关联;训练模型遵循某一目标价值观时,也可能使其他价值观随之漂移。研究据此揭示了价值对齐训练可能产生的非预期影响。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月18日
  1. AGI Hunt
    哥本哈根大学与剑桥大学研究 LLM 价值训练对其他价值观的意外影响

    哥本哈根大学与剑桥大学研究者发布论文,系统考察 LLM 价值训练对非目标价值观造成的意外副作用。研究指出,将 LLM 与人类价值观对齐已成为常见后训练目标,但价值观之间相互关联,训练目标价值观时也可能带动其他价值观漂移。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。