OpenAI早期机制可解释性研究者称万亿参数模型多数神经元已可读

AGI Hunt转述OpenAI早期机制可解释性研究者的长文观点，称借助现代Agent工具深入观察后，万亿参数模型中的绝大多数神经元已可读，电路结构也较清晰。早期工具只能读懂约2%的神经元，文中另一项演示通过6步改写模型权重，4096个被改写的神经元在清除对话后仍保留，相关特质对未见问题以20%频率出现，81%的回答合理。