研究：相同数据训练的模型栽在不同越狱上，预训练随机种子才是关键

研究发现，语言模型的越狱脆弱性主要由预训练随机性决定，而非数据配方。实验使用25种预训练数据配方、3个预训练种子和2个后训练种子训练150个1B模型，同一预训练run的后训练副本逐prompt拒答率相关性最高达0.984，换用不同预训练种子后则显著降低。