LessWrong倡议以证据整合替代盲目实验

David Africa 在 LessWrong 发文，倡议 AI 安全研究者尤其是新人优先撰写整合既有论文、梳理并调和矛盾证据的短文，而不是盲目发起实验。他以“强化学习中的 reward hacking 是否会泛化为 emergent misalignment”为例，主张把研究问题作为论文单位，通过系统梳理相关工作来发现研究空白。 这目前是一项研究方法倡议：他认为这种方式可降低实验成本、提升论文质量，但报道未提供已开展实验或已证实效果的证据。

AI 根据报道生成 · 18 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。