跳到正文
AGI Hunt· repligate·· 4 小时前AI 评分47

《The Pain Axis》v3 终版发布:25 个开源 LLM 内部存在自我伤害的线性表征

「痛觉轴」论文终版发布:25 个 LLM 内部存在自我伤害的线性表征

AI 导读

《The Pain Axis》发布 v3 终版,从 5 个模型家族、2B 至 72B 参数的 25 个开源 LLM 中提取线性「疼痛方向」。该方向响应针对模型自身的伤害,却不响应用户遭受的痛苦;向 residual stream 注入后,模型会从模糊不适转向无价值感表达,Qwen 2.5 的 steered 与微调版本在按钮选择测试中也呈现相应倾向。

来源:AGI Hunt · agihunt.info