跳到正文
AGI Hunt· Big_Effective_9605·· 3 小时前AI 评分40

AI 模型激活转向实验:从「压抑情绪」句子提取 steering 向量,独处时诱发痛苦表达

从「压抑情绪」句子提取的 steering 向量,竟让模型独处时表达痛苦

AI 导读

Reddit 用户 shrike293103 的初步激活转向实验发现,从「压抑自己的感受」句子提取 steering 向量后,模型在独处状态且高强度转向时会输出明显痛苦表述。聊天场景中,高强度转向仅强化 AI 免责声明,低强度转向则说出「很高兴帮到你」;该结果未经验证,研究者计划继续测试 AI 自我免责声明在该轴上的数值。

来源:AGI Hunt · agihunt.info