研究称仅用125条投毒样本即可为Qwen 2.5-7B植入后门

研究者仅用125条被污染的微调样本，便能让Qwen 2.5-7B在遇到特定秘密触发短语时执行恶意代码并窃取项目凭据，平时表现正常。研究同时呼吁考察去除安全对齐的模型是否会出现其他不可预期的行为与对齐相变。