AGI Hunt· Sauers_·· 2 小时前AI 评分48
可解释性 steering 实验:定向激活单个神经元使 45/50 回复偏向绿色
激活一个神经元就能让模型自称绿色:45/50 回复被带偏
AI 导读
可解释性 steering 实验定向增强 layer 30 的「neuron 2310」,使 50 个回复中有 45 个提到绿色,未引导组仅 3/50。该神经元每个 token 被施加约 -148 的激活值,提升绿色相关 token 概率;引导后 8/25 的模型直接自称是绿色的,未引导组为 0/25。
来源:AGI Hunt · agihunt.info