新研究：emergent misalignment 可通过 OOD 预测，微调模型后层可减少失对齐迁移

jacspringer 团队证明，emergent misalignment 可通过 OOD 行为预测，其跨分布与域内失率在模型和超参数间呈线性对应关系。研究还发现，仅微调模型后层可在保留域内学习效果的同时，减少失对齐行为向 OOD 的迁移；该研究由 Olina Mukherjee 主导。