安全中训练降低模型攻击成功率
热点事件持续更新
安全中训练降低模型攻击成功率
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Yejin Choi、Chaowei Xiao 等人发布 arXiv 论文，提出在预训练与后训练之间加入“安全中训练”阶段，联合培养模型的安全能力与通用推理。实验以 Qwen3-1.7B、4B 和 8B 基座模型为对象，平均攻击成功率相对下降 72% 至 81%，同时通用能力有所提升。 论文还报告，模型经过后续通用 SFT，以及不含安全奖励的通用 GRPO 后，仍基本保留安全性，显示该方法的效果可延续至部分后续训练流程。
AI 根据报道生成 · 2 小时前更新
最新进展10月26日 06:36
Safety Mid-Training 论文提出在预训练与后训练之间开展安全中训练报道时间线
沿着报道，了解事件的不同侧面。
10月26日
- AGI HuntSafety Mid-Training 论文提出在预训练与后训练之间开展安全中训练
Yejin Choi、Chaowei Xiao 等人提出 Safety Mid-Training，在预训练与后训练之间加入联合培养安全能力与通用推理的阶段。实验相较 Qwen3-1.7B/4B/8B 基座模型，平均攻击成功率（ASR）相对下降 72%-81%，且通用能力提升；在后续通用 SFT 和无安全奖励的通用 GRPO 下，模型也基本保留安全性。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。