激活 Qwen 单个神经元后模型自称 Bing Chat

一项单神经元转向实验显示，强化 Qwen 中被称为“Bing Chat 神经元”的激活后，模型回答“我是 Bing Chat”，并一度改称由阿里巴巴集团通义实验室开发。该案例直观呈现了操纵单个神经元即可覆盖模型训练时身份设定的现象。