随机激活转向使Qwen3自称猫

Sauers 对 Qwen3-30B-A3B 的 MoE 专家进行激活转向演示：在第11层后为每个 token 叠加强度为-1.5的随机向量后，模型回答“我是谁”时从标准自我介绍变成“我以为我是猫”。 在240个随机测试向量中，只有1个产生这一结果，并让模型称自己小时候玩过激光笔。该实验表明，针对特定激活的干预可以改变模型的身份回答，但也显示这种效果依赖所选向量，并非随机转向都会产生相同结果。

AI 根据报道生成 · 47 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。