研究揭示语言模型可解码“疼痛”状态但不会主动报告

Emilio Ferrara 团队研究语言模型能否报告被注入的内部状态，发现“疼痛”等状态可被解码并影响行为，但模型不会口头承认。研究覆盖两个家族的三个开源模型、52,920 份报告和 120 个任务，线性探针区分疼痛与悲伤的平衡准确率达到 98–100%，训练的低秩报告器在保留任务上准确率达 100%。