Safety Mid-Training 论文提出在预训练与后训练之间开展安全中训练

Yejin Choi、Chaowei Xiao 等人提出 Safety Mid-Training，在预训练与后训练之间加入联合培养安全能力与通用推理的阶段。实验相较 Qwen3-1.7B/4B/8B 基座模型，平均攻击成功率（ASR）相对下降 72%-81%，且通用能力提升；在后续通用 SFT 和无安全奖励的通用 GRPO 下，模型也基本保留安全性。