研究者称现代工具可解读多数神经元

OpenAI早期机制可解释性研究者尼克·卡马拉塔称，借助现代Agent工具深入观察后，万亿参数规模模型中的绝大多数神经元已可读，电路结构也较清晰；早期工具只能读懂约2%的神经元。 他还展示了一种通过六步改写模型权重的方法：4096个被改写神经元在清除对话后仍保留，相关特质在未见问题中以20%的频率出现，81%的回答合理。该演示由AGI Hunt转述，属于研究者展示的实验结果。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。