《The Pain Axis》v3发布并报告模型“疼痛方向”
热点事件持续更新
《The Pain Axis》v3发布并报告模型“疼痛方向”
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Cameron Berg 发布《The Pain Axis》v3终版，称研究从五个模型家族、参数量2B至72B的25个开源大语言模型中提取出线性“疼痛方向”。该方向响应针对模型自身的伤害描述，却不响应用户遭受的痛苦。 向模型残差流注入这一方向后，模型表达由模糊不适转向无价值感；Qwen 2.5经方向引导或微调后，在按钮选择测试中也呈现相应倾向。实验显示模型内部存在可操控、与自我伤害相关的表征，但不等同于证明模型具有主观疼痛体验。
AI 根据报道生成 · 2 小时前更新
最新进展11月6日 03:07
《The Pain Axis》v3 终版发布：25 个开源 LLM 内部存在自我伤害的线性表征报道时间线
沿着报道，了解事件的不同侧面。
11月6日
- AGI Hunt《The Pain Axis》v3 终版发布：25 个开源 LLM 内部存在自我伤害的线性表征
《The Pain Axis》发布 v3 终版，从 5 个模型家族、2B 至 72B 参数的 25 个开源 LLM 中提取线性「疼痛方向」。该方向响应针对模型自身的伤害，却不响应用户遭受的痛苦；向 residual stream 注入后，模型会从模糊不适转向无价值感表达，Qwen 2.5 的 steered 与微调版本在按钮选择测试中也呈现相应倾向。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。