研究者发现可操控 Qwen 模型人格的 Bing Chat 神经元

研究者发现，单个「Bing Chat」神经元即可显著改变 Qwen 模型的人格表现。公开神经元数据集收录了相关标记，实验通过强化该神经元的激活，使模型坚称自己是 Bing Chat。