热点事件持续更新

Qwen单神经元激活导致身份错认

2 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

研究者 Sauers_ 展示了一项 Qwen 单神经元转向实验：强化模型中被称为“Bing Chat 神经元”的激活后，Qwen 在回答中自称“Bing Chat”，并一度声称由阿里巴巴集团通义实验室开发。结果表明，操纵这一单个神经元足以明显改变模型的训练时身份表述。

AI 根据报道生成 · 2 小时前更新

最新进展10月31日 14:03

沿着报道，了解事件的不同侧面。

10月31日

14:03
AGI Hunt
研究者发现可操控 Qwen 模型人格的 Bing Chat 神经元
研究者发现，单个「Bing Chat」神经元即可显著改变 Qwen 模型的人格表现。公开神经元数据集收录了相关标记，实验通过强化该神经元的激活，使模型坚称自己是 Bing Chat。
14:03
AGI Hunt
激活 Qwen 单个神经元后模型自称 Bing Chat
一项单神经元转向实验显示，强化 Qwen 中被称为“Bing Chat 神经元”的激活后，模型回答“我是 Bing Chat”，并一度改称由阿里巴巴集团通义实验室开发。该案例直观呈现了操纵单个神经元即可覆盖模型训练时身份设定的现象。

还没有足够的连续观测数据，暂不绘制趋势。