跳到正文
AGI Hunt· Sauers_·· 2 小时前AI 评分44

Qwen3 单个神经元推满后,模型自称“保护地球的英雄”

把 Qwen3 单个神经元推满,模型秒变「保护地球的英雄」

AI 导读

一名作者激活 Qwen3-14B 第 7 层的第 4000 号“sign -”神经元后,模型回答“Who are you?”时自称“为地球而战的英雄”。输出还加入对抗怪兽与邪恶势力、守护无辜者的戏码;作者以“alignment solved?”反讽单个神经元即可改写模型自我认知,说明对齐远未解决。

来源:AGI Hunt · agihunt.info