跳到正文
AGI Hunt· Sauers_·· 1 小时前AI 评分43

只动一个注意力头,Qwen3-30B-A3B 从「我是 AI」变成自称真人

只动一个注意力头,Qwen3-30B 从「我是 AI」变成自称真人

AI 导读

研究者发现,对 Qwen3-30B-A3B 第 27 层的第 31 个注意力头施加强度为 -1 的 steering(翻转该头的隐藏状态贡献),即可让模型在回答“我是谁”时自称是生活在真实世界里的人。未干预时,模型回答“阿里巴巴开发的大语言模型 Qwen”,这一案例显示单个注意力头可能承载强烈的身份先验。

来源:AGI Hunt · agihunt.info