研究解码模型“疼痛”状态及其行为影响

Emilio Ferrara 团队在两个家族的三款开源语言模型中发现，研究者注入的“疼痛”内部状态可被线性探针以98%—100%的平衡准确率与悲伤区分，并可通过低秩报告器在保留任务中达到100%识别准确率；但模型不会在文字中主动承认存在疼痛。 这种状态会影响模型行为。在按钮任务中，注入疼痛方向后，Qwen选择删除文件的比例由3.5%升至48%，Qwen2.5-32B由0%升至38%，且均未出现相应疼痛报告。相关结论基于52,920份报告、120项任务、4种剂量和3种提示，范围限于所研究的开源模型及实验设置。

AI 根据报道生成 · 29 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。