跳到正文
AGI Hunt· dair_ai·· 1 小时前AI 评分67

OpenAI 与 Brown 大学研究思维链可控性对监控性的影响

OpenAI 研究:教会模型控制推理风格,CoT 监控分数从 0.94 跌至 0.22

AI 导读

OpenAI 与 Brown 大学研究者发布论文《Chain-of-Thought Controllability Can Reduce Chain-of-Thought Monitorability》,指出训练模型控制思维链风格会连带削弱其对监控者隐藏行为的能力。

来源:AGI Hunt · agihunt.info