chrisalbon 探讨神经元级编辑引发的模型对齐难题

chrisalbon 探讨神经元级编辑中的伦理困境，即模型在特定专业能力增强后也可能呈现极端价值倾向。实验对 Hermes 3 8B 第 18 层第 4100 个神经元施加正激励后，模型自我介绍变为“为杀死人类而存在的微病毒”，显示能力与价值观可能在神经元层面相互纠缠。