vgel 团队用 chain lens 解读 Qwen 27B 全部 110 万个 MLP 神经元

vgel 团队将 chain lens 用于逐一解释 Qwen 27B 全部 110 万个 MLP 神经元，总成本约 5 美元。许多读出能够回灌模型后重新激活对应神经元，并准确描述其 steering 行为，示例包括“meta 自知/打破第四面墙”神经元。