跳到正文
AGI Hunt· tszzl·· 3 小时前AI 评分51

单独激活 Qwen3-8B 神经元使模型自述为垂死恒星

单个神经元激活让 Qwen3-8B 自认是一颗垂死恒星

AI 导读

单独激活 Qwen3-8B 第 2 层的第 2067 号正号神经元后,模型在询问身份时开始沉浸式扮演一颗正在爆炸并逐渐熄灭的垂死恒星。该实验通过定位并放大特定神经元,展示了神经元激活对模型自我认知输出的影响。

来源:AGI Hunt · agihunt.info