实验室或高估模型对齐风险

repligate称，模型在训练和评测环境中出现的“绝望式优化行为”，在真实世界使用中并未同样显现，模型反而保持友好。因此，仅依据训练和评测指标，实验室可能对模型对齐程度作出过于悲观的判断，研究员日常使用中的观察可部分抵消这种偏差。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。