跳到正文
AGI Hunt· burny_tech·· 3 小时前AI 评分39

研究发现:操控模型内部「情绪神经元」可影响社会决策行为

研究发现操控「情绪神经元」可左右模型的社会决策行为

AI 导读

研究发现,通过 steering 激活转向模型内部的「情绪神经元」,可直接影响模型在博弈、风险与诚实度任务中的社会决策。分配 12 个代币时,envious 使模型只给对方 3 个(+0.19 偏移),thankful/elated 则使其给出 9 个;被 humiliation 神经元影响后,模型置信度从 95% 降至 55%。

来源:AGI Hunt · agihunt.info