Nick Cammarata 的神经网络可解释性主张引发争议

Goodfire 研究员 Nick Cammarata 认为，研究者可能以错误方式看待神经网络，LLM 的内部机制或比此前预想的更容易理解和控制。他以 Inception v1 中同时响应汽车和猫的神经元为例，提出两者共享 V 形特征；不过多位研究者指出，这仍主要是个人假设，针对现代 LLM 的技术结果尚未发布，也不足以证明可解释性研究已取得重大进展。