跳到正文
AGI Hunt· Sauers_·· 3 小时前AI 评分41

Qwen 单神经元实验:注入“快乐神经元”可改变自我描述

单个神经元实验:给 Qwen 注入「快乐神经元」可改变其自我描述

AI 导读

单个神经元实验显示,向 Qwen 注入特定“神经元”激活可显著改变其自我描述:正常状态下自称“阿里云开发的大语言模型”,注入 joyful neuron 后自称“开朗的 AI 助手”,注入 sleepy neuron 后表现出困倦。24 个自我提问的实验中,calm 神经元导致 9/24 次回复损坏,而无神经元或随机对照组几乎不产生此类效果。

来源:AGI Hunt · agihunt.info