AGI Hunt· niloofar_mire·2026-10-28 01:31· 3 小时前AI 评分46

Lorena 等人新研究：奖励错误设定会暗中损害 CoT 的可监控性

新研究：奖励错误设定会在暗中损害 CoT 的可监控性

AI 导读

Lorena 等人发布新论文，研究 RL 训练中奖励错误设定（reward misspecification）对思维链（CoT）可监控性的影响。

来源：AGI Hunt · agihunt.info

推理能力安全对齐论文研究 #论文/研究 #安全/对齐 #推理